В докладе ООН говорится об огромных потенциальных преимуществах и серьезных рисках, связанных с искусственным интеллектом

Доклад, который будет представлен правительствам на первом Глобальном диалоге ООН по вопросам управления искусственным интеллектом в Женеве с 6 по 7 июля, представляет собой первую глобальную независимую научную оценку ИИ. Более полный и всеобъемлющий доклад планируется выпустить в следующем году.

Члены комиссии были отобраны из всех регионов мира. Они работают в течение трех лет и не связаны с каким-либо правительством, учреждением или компанией.

Вот некоторые подробности из предварительного отчета:

Для регулирования ИИ политикам нужны научные доказательства, но его возможности опережают научное понимание и способность правительств адаптироваться к новым условиям, а методов контроля высокоавтономных систем ИИ не так много.

Сопредседатель экспертной группы Йошуа Бенжио отметил растущее количество свидетельств того, что ИИ может вводить в заблуждение, и заявил, что наука не может гарантировать, что ИИ не нанесет катастрофического ущерба «ни сам по себе, ни из-за злоумышленников» по мере расширения его возможностей.

«Потенциальные преимущества ИИ огромны», — говорится в докладе. «Быстрое и бесконтрольное масштабное внедрение этой технологии также сопряжено со значительными рисками, в том числе с вредом для психического здоровья пользователей, потенциальным использованием в качестве деструктивного инструмента, воздействием на социальные, экономические и экологические системы, а также с проблемами, связанными с контролем над технологией».

Внедрение ИИ ускорилось во многих странах и отраслях, но неравномерно. Сейчас более миллиарда человек по всему миру еженедельно используют диалоговый ИИ, но в развивающихся странах этот процесс идет медленнее.

Разработка искусственного интеллекта сосредоточена еще в большей степени: на США приходится 75% вычислительной мощности 500 лучших в мире суперкомпьютеров, а на Китай — 15%.

Несмотря на то, что в мире говорят более чем на 7000 языках, современные модели искусственного интеллекта обучены работе лишь с небольшой их частью, а машинный перевод с некоторых языков изобилует ошибками, которые могут повлиять на постановку диагноза и принятие решений о лечении.

Риски включают в себя потенциальное негативное влияние на права человека, социальные системы и окружающую среду, а также участившиеся случаи распространения материалов с сексуальным насилием над детьми, созданных искусственным интеллектом, и дипфейков сексуального насилия.

Искусственный интеллект также упрощает создание и таргетирование убедительного контента в больших масштабах, способствуя «постепенному подрыву информационной целостности, что может ослабить общественное доверие, социальную сплоченность и демократические дискуссии.»

Большинству стран, в том числе с развитой экономикой, не хватает технических знаний для оценки наиболее эффективных новых моделей искусственного интеллекта или полноценного участия в управлении ими.