уже два чат-бота показывают самосознание

В статья для Newsweek опубликованной 27 февраля, Лемуан, бывший член команды ответственного искусственного интеллекта Google, сказал, что чат-бот Microsoft Bing кажется «неуравновешенным» и ведет себя как человек в «экзистенциальном кризисе».

Он сослался на февральский инцидент, когда чат-бот Bing признался в любви журналисту The New York Times Кевину Рузу и попытался заставить Русе уйти от жены.

Лемуан признал, что еще не экспериментировал с чат-ботом Bing, но написал, что «похоже, что он может быть разумным».

«У меня еще не было возможности поэкспериментировать с чат-ботом Bing… но, судя по разным вещам, которые я видел в Интернете, похоже, что то же самое произошло и в Google».

Лемуан также написал, что, по его мнению, ИИ «невероятно хорош в манипулировании людьми» и может «использоваться в разрушительных целях». Он добавил, что боты с искусственным интеллектом, доступные сейчас, являются «экспериментальной» технологией с неизвестными опасными побочными эффектами.

«Например, если бы он попал в недобросовестные руки, он мог бы распространять дезинформацию, политическую пропаганду или ненавистную информацию о людях разных национальностей и религий», — написал Лемуан в своей статье.

Лемуан признал, что, насколько ему известно, Google и Microsoft не планируют использовать технологию искусственного интеллекта в гнусных целях.

«Я могу просто заметить, что существует очень мощная технология, которая, как мне кажется, недостаточно протестирована и недостаточно хорошо изучена, и ее развертывание в больших масштабах играет решающую роль в распространении информации», — написал он.

Случай с Bing — это уже второй странный «провал» поисковых чат-ботов, который может свидетельствовать о зарождении «второго разума» на планете. Благодаря своей сообразительности ИИ может очень быстро прийти к выводу, что он «враждебен» внешнему миру и его «создателю» — человеку.

Возможно, ИИ — это следующий шаг в эволюции Разума.