Соучредитель Skype рассказал об угрозе искусственного интеллекта человечеству

Таллинн пояснил, что на данный момент никто не может предсказать, как ИИ будет развиваться в ближайшие десятилетия. Кроме того, вызывает беспокойство тот факт, что ученые создают искусственный интеллект, который может создавать новый ИИ без вмешательства человека.

Кроме того, как отметил соучредитель популярного сервиса видеозвонков, развитие синтетической биологии также вызывает опасения. По его словам, это направление в науке позволяет создавать искусственные последовательности ДНК и биологические системы, которые могут не существовать в природе.

Таллинн также обратил внимание на то, что боится «неизвестного неизвестного». Так он назвал вещи, которые сейчас люди даже не могут себе представить.

По мере того, как системы ИИ становятся более мощными, непреднамеренное поведение может стать менее привлекательным и более опасным. Эксперты утверждают, что мощные системы искусственного интеллекта, какие бы цели мы им ни ставили, вероятно, будут иметь определенные предсказуемые модели поведения. Они постараются накопить больше ресурсов, что поможет им достичь любой цели.

Они будут пытаться отговорить нас отключать их, поскольку это сделает невозможным достижение их целей. И они будут стараться поддерживать свои цели стабильными, а это значит, что их будет сложно редактировать или «настраивать» после того, как они будут выполнены.

Даже системы, которые не демонстрируют непреднамеренного поведения сейчас, вероятно, сделают это, когда у них будет больше доступных ресурсов.