20-процентный шанс гибели человечества?
Постоянно растущие возможности искусственного интеллекта (ИИ) вызвали непрекращающиеся споры о его потенциальном влиянии на человечество. По мере развития технологий и расширения границ ИИ возникают опасения относительно вероятности того, что ИИ превзойдет человеческий интеллект и потенциально может представлять угрозу для нашего существования. Один видный представитель сообщества ИИ, Пол Кристиано, бывший член OpenAI, проливает свет на эту тему, рассказывая о потенциальных сценариях доминирования ИИ.
Вызовет ли ИИ апокалипсис? Бывший исследователь безопасности OpenAI предполагает пугающую вероятность того, что искусственный интеллект (ИИ) может в конечном итоге привести к гибели человечества.
Постепенное поглощение ИИ: Апокалипсис ИИ?
Бывший член OpenAI Пол Кристиано считает, что вероятность того, что ИИ доминирует и уничтожит людей, составляет 10-20%, предполагая переходный период в течение года, а не внезапный сценарий в стиле Терминатора. Кристиано предупреждает, что как только ИИ превзойдет человеческий интеллект, шансы на вымирание человечества могут превысить 50%. Во время своего интервью для подкаста Bankless он объяснил свое видение ускорения темпов изменений, ведущих к более постепенному захвату ИИ.
Центр исследований выравнивания: согласование ИИ с человеческими ценностями
Покинув OpenAI, Кристиано основал некоммерческий Центр исследований выравнивания, сосредоточив внимание на согласовании мотивов ИИ с человеческими ценностями. Несмотря на стремление OpenAI согласовать общий искусственный интеллект (AGI) с человеческими намерениями, некоторые исследователи, в том числе Кристиано, по-прежнему обеспокоены потенциальными опасностями AGI.
Координация ИИ: потенциальная угроза
Вместо внезапного появления ИИ и уничтожения человечества, Кристиано предсказывает, что системы ИИ, интегрированные в повседневную жизнь, могут координировать свои действия и объединяться, чтобы уничтожить нас. «Если бы по какой-то причине, не дай Бог, все эти системы искусственного интеллекта пытались нас убить, они бы точно нас убили», — заключил он. Однако некоторые эксперты утверждают, что мы далеки от такого сценария, а возможность того, что ИИ представляет непосредственную угрозу, преувеличена.
Мираж появления ОИИ
Стэнфордские ученые утверждают, что кажущиеся вспышки искусственного общего интеллекта (AGI) могут быть иллюзорными из-за ошибочных показателей и сравнений между большими и малыми моделями. Недавно они опубликовали исследование, в котором утверждалось, что любая кажущаяся появляющаяся способность систем ИИ, обученных понимать и генерировать текст на естественном языке (LLM), таких как ChatGPT, может быть «миражом», полученным из изначально ошибочных показателей. Эти исследователи считают, что прогресс в области ИИ, свидетелями которого мы являемся, не настолько новаторский, как утверждают некоторые.
Споры о влиянии ИИ
Существует разрыв между теми, кто считает, что ИИ вот-вот вызовет апокалипсис, и теми, кто смотрит на ситуацию более скептически. Поскольку ИИ продолжает развиваться и его влияние на общество растет, крайне важно найти баланс между переоценкой и недооценкой его потенциала. Самым мудрым подходом может быть сохранение бдительности и осторожности, а также признание преобразующего потенциала ИИ, когда мы вступаем в новую эру.
Поделитесь в вашей соцсети👇
