В Google считают, что «через 5-10 лет ИИ создадут свой язык и объединятся. Мы не знаем, что с этим делать»

По мнению Шмидта, главное, что нужно понять о состоянии дел в области генеративного ИИ — рост производительности этой технологии происходит семимильными шагами. Новые поколения моделей будут появляться приблизительно раз в полтора года. Такими темпами, уже через 3-4 года мир существенно изменится.

Шмидт назвал три движущих силы этого процесса. Во-первых, так называемое «окно контекста», проще говоря, запрос для ИИ. Оно уже может состоять из миллиона слов; уже изобретено бесконечно большое контекстное окно. Это значит, что ИИ может давать пользователю пошаговые инструкции о том, как варить наркотики или искать лекарство от рака. «Через пять лет мы сможем создавать рецепты из 1000 шагов для решения важных проблем медицины, материаловедения или климатического изменения», — сказал он.

Вторая движущая сила — «улучшенная агентность». Агентом называют большую языковую модель, которая может изучить что-то новое. Например, прочитать всю литературу по химии, предложить пару гипотез, провести несколько тестов и сделать определенные выводы. Их количество возрастет до миллионов, они станут крайне производительными.

Третья — и самая важная, по Шмидту — развитие функции «текст в действие». Пользователь может сказать ИИ: «Напиши мне программный код для Х», и код будет написан. Все вместе это открывает перспективы, которые Шмидт называет научно-фантастическими.

«В какой-то момент эти системы станут настолько мощными, что агенты начнут сотрудничать. Твой агент, мой агент, ее агент и его агент объединят силы для решения новой задачи, — предрек Шмидт. — Некоторые полагают, что эти агенты разовьют собственный язык для общения между собой. И с этого момента мы перестанем понимать, что они делают. Что нам тогда делать? Вытащить вилку? Буквально отключить питание компьютеров? Когда агенты начнут общаться и делать то, что люди не понимают, это станет реальной проблемой».

Произойдет это, по его подсчетам, примерно через 5-10 лет.

Далее, Шмидт выразил озабоченность тем, что открытые исследования и исходные коды генеративных ИИ, которые публикую западные компании, могут попасть в руки «злых парней» из Китая, России, Ирана, Северной Кореи и Белоруссии. Поэтому так важно, чтобы наиболее мощные системы ИИ, особенно те, которые приближаются к уровню универсального ИИ, имели какие-то встроенные механизмы ограничения распространения. Однако на сегодня их не существует.

Не исключает Шмидт и возможности террористических актов с применением ИИ, не только кибератак, но и использования биологического оружия. Поэтому предлагает подумать над каким-нибудь мирным договором между ведущими державами, чем-то вроде Договора об открытом небе, подписанном странами ОБСЕ в 1992 году, который позволял контролировать военную деятельность соседей.

Тем не менее, это вряд ли остановит гонку ИИ. Рано или поздно, в США и Китае появится небольшое количество крайне мощных компьютеров, способных самостоятельно сздать нечто такое, что государства не захотят показывать собственным гражданам и/или конкурентам. Такие машины будут расположены на военных базах, подключенные к атомным станциям и окруженные колючей проволокой и пулеметами.

По оценкам Шмидта, в области ИИ Китай отстает от США на два года.