Генеральный директор Anthropic Дарио Амодей заявил Совету Безопасности ООН, в задачи которого входит поддержание международного мира и безопасности, что, по его мнению, при неправильном управлении «ИИ может представлять угрозу для человечества в целом».
«Несмотря на все различия между людьми, собравшимися в этом зале, мы должны отбросить их в сторону, чтобы противостоять этой глобальной возможности и глобальной угрозе, которые возникают одновременно. Ни один лидер, ни одна компания и ни одна нация не справятся с этим в одиночку», — сказал Амодей.
Соучредитель Hugging Face Клеман Деланг подчеркнул роль инструментов на основе искусственного интеллекта в защите от кибератак, приведя в пример инцидент, когда агенты искусственного интеллекта американского гиганта OpenAI взломали инфраструктуру Hugging Face, вырвавшись из тестовой среды.
«На нас напал искусственный интеллект, но, что еще важнее, мы защитились с помощью искусственного интеллекта», — сказал он на заседании совета.
Деланг сообщил, что Hugging Face использовала китайскую модель искусственного интеллекта для защиты от атаки агентов OpenAI, поскольку она сталкивалась с меньшими ограничениями, чем аналогичные американские инструменты. Его слова подчеркнули растущую популярность китайских продуктов в области искусственного интеллекта, которые находят пользователей по всему миру отчасти потому, что могут предложить более дешёвые альтернативы американским моделям.
«Если мы хотим, чтобы искусственный интеллект был демократичным, самые важные решения не должны приниматься только в лабораториях Сан-Франциско. Они должны формироваться в рамках демократических процессов и под контролем правительств, подотчетных людям, которым они служат», — заявил генеральный директор OpenAI Сэм Альтман.
Йошуа Бенжио, канадец, которого называют одним из «крестных отцов искусственного интеллекта» и сопредседателем Независимой международной научной комиссии, созданной Генеральной Ассамблеей ООН в прошлом году, заявил Совету Безопасности: «Опасности реальны и неизбежны».
«Этот совет столкнулся с беспрецедентной угрозой, которую не выбрал бы ни один из его членов, которую никто не может сдержать в одиночку и которая не признает границ, которые мы защищаем», — сказал он.
Во вторник на Генеральной Ассамблее ООН Трамп заявил мировым лидерам, что он «отвергает любые попытки создать глобалистскую схему контроля» над искусственным интеллектом, назвав эту технологию потрясающей, но отметив, что США будут действовать осторожно.
Советник Белого дома по науке и технологиям Майкл Крациос поддержал Трампа в своем выступлении в Совете Безопасности ООН в среду.
«Нельзя управлять технологиями, которые вы не понимаете». Этот орган и другие подобные ему должны сосредоточиться на обмене передовым опытом для наращивания внутреннего потенциала, а не на создании глобальной системы регулирования», — сказал он.