ИИ может привести к вымиранию человечества

Тонер рассказала о разнице в восприятии искусственного интеллекта на Восточном и Западном побережьях и подчеркнула серьезность угрозы создания очень продвинутых и опасных систем ИИ в ближайшем будущем.

Она также отметила, что некоторые инженеры и ученые верят в возможность создания систем искусственного интеллекта общего назначения (ИИОН) в ближайшие 10-20 лет, и что эти системы могут быть чрезвычайно разрушительными, а в худшем случае привести к вымиранию человечества.

Искусственный общий интеллект — это область теоретических исследований ИИ, в которой предпринимаются попытки создать программное обеспечение с человекоподобным интеллектом и способностью к самообучению. Цель состоит в том, чтобы программное обеспечение могло выполнять задачи, для которых оно не обязательно было обучено или разработано.

Эксперт призвала правительство США принять меры по преодолению вреда от искусственного интеллекта и усилить надзор в этой области. Она отметила, что ситуация может становиться все более плачевной, и что нужно быть готовым к изменениям в сфере ИИ.

Интересно, что Тонер — не единственный эксперт в этой области, который считает, что искусственный интеллект может уничтожить человечество.

Согласно опросу экспертов в области ИИ, проведенному журналом Nature, не менее 5 процентов из них считают, что существует вероятность того, что сверхразумные машины уничтожат человечество.

Некоторые пользователи Reddit прокомментировали слова Тонера, выразив обеспокоенность и согласившись с необходимостью принятия мер по контролю за развитием ИИ. Однако другие пользователи указали на другие угрозы, такие как изменение климата, и выразили сомнение в том, что ИИ должен быть приоритетным вопросом.

Тонер также отметила, что важным аспектом регулирования ИИ является создание прозрачных стандартов и норм. Она подчеркнула, что развитие технологий должно происходить с учетом этических и социальных последствий, чтобы минимизировать потенциальные риски. По мнению эксперта, сотрудничество между государственными учреждениями, исследователями и частным сектором необходимо для разработки эффективных стратегий управления искусственным интеллектом.

Тем не менее, борьба с угрозами, связанными с ИИ, требует не только технологических решений, но и широкой общественной осведомленности. Тонер призвала к образовательным инициативам, направленным на информирование граждан о возможных рисках и преимуществах новых технологий. Это поможет создать более критическое восприятие ИИ и обеспечить его ответственноe внедрение в общество.

Помимо этого, в контексте глобализации важно учитывать, что развитие ИИ происходит в разных странах с различными законодательствами и стандартами. Это создает дополнительные вызовы для международного сотрудничества и разработки глобальных норм. Тонер подчеркивает, что без объединенных усилий мирового сообщества справиться с потенциальными угрозами будет крайне сложно.