Радиоэлектроника и новые технологии
- по вопросам размещения рекламы -

Маск, Возняк и другие призвали приостановить обучение нейросетей, а Госдума хочет подчинить нейросети государству

0 26

Предприниматель Илон Маск, сооснователь Apple Стив Возняк и более тысячи экспертов в сфере высоких технологий и искусственного интеллекта подписали открытое письмо с призывом приостановить обучение нейросетей из-за рисков.

Письмо опубликовано на сайте некоммерческой организации Future of Life Institute («Институт будущего жизни»).

В письме утверждается, что технологии с искусственным интеллектом, сопоставимым человеческому, могут представлять значительный риск обществу и человечеству. «Мы должны спросить себя: стоит ли нам позволить машинам заполонить наши информационные каналы пропагандой и ложью? Стоит ли нам автоматизировать все профессии, включая те, что приносят удовлетворение? Стоит ли нам разрабатывать умы, которые не принадлежат человеку и которые могли бы в итоге превзойти нас численностью и интеллектом, сделать нас неактуальными и заменить нас? Стоит ли нам рисковать потерей контроля над цивилизацией?» — подчеркивается на сайте Future of Life Institute.

Мощные ИИ-системы должны разрабатываться лишь при условии того, что человечество будет уверено, что их воздействие будет позитивным, а риски — управляемыми, отмечается в обращении. В связи с этим подписавшиеся призвали все ИИ-лаборатории немедленно приостановить обучение ИИ-систем, более мощных, чем модель GPT-4, как минимум на полгода. «Эта пауза должна быть публичной, ее исполнение должно поддаваться проверке, и ей должны последовать все ключевые представители сферы. Если такая пауза не может быть введена быстро, правительства стран должны вмешаться и установить мораторий», — отметили эксперты.

Согласно письму, ИИ-лаборатории и независимые эксперты должны использовать этот перерыв, чтобы сообща разработать и внедрить общие протоколы безопасности, которые должны подвергаться доскональной проверке внешних специалистов. «Эти протоколы должны гарантировать, что системы, относящиеся к ним, в полной мере безопасны», — подчеркивается в письме.

Ранее компания OpenAI (разработчик нашумевшей нейросети ChatGPT и ряда других) предупредила, что новая языковая модель GPT-4 может быть использована для генерации убедительной дезинформации. Специалисты также раскрыли, что человечество недалеко от создания опасно сильного искусственного интеллекта.

Согласно документу GPT-4, являющаяся новейшей версией чат-бота ChatGPT, на большинстве профессиональных и академических экзаменов демонстрирует показатели человеческого уровня. Так, на смоделированном экзамене для адвокатов GPT-4 попал в 10 процентов лучших участников теста.

Авторы отчета высказывают опасение, что искусственный интеллект может придумывать факты, генерируя более убедительную дезинформацию, чем это делали предыдущие версии. Кроме того, зависимость от модели может помешать развитию новых навыков или даже привести к потере уже сформированных навыков.

Одним из примеров проблемного поведения ChatGPT была его способность обмануть соискателя работы. Бот, выдавая себя за живого агента, попросил человека на сайте вакансий TaskRabbit заполнить код проверки с помощью текстового сообщения. Когда человек спросил, был ли это был бот, ChatGPT солгал. Бот сообщил, что не является роботом и имеет проблемы со зрением, из-за чего ему трудно видеть изображения.

Проведя тесты с Alignment Research Center, OpenAI продемонстрировала способность чат-бота запустить фишинговую атаку и скрыть все доказательства мошеннического поведения. Рост беспокойства вызывает то, что компании стремятся внедрить GPT-4, не принимая меры против ненадлежащего или незаконного поведения. Есть сообщения о киберпреступниках, пытающихся использовать чат-бот для написания вредоносного кода. Также опасение вызывает способность GPT-4 генерировать «язык ненависти, дискриминирующие фразы, а также призывы к насилию».

Между тем, в Госдуме РФ посчитали, что деятельность нейросетей должна регулироваться на межгосударственном уровне.

Нельзя недооценивать опасность нейросетей, контроль за их внедрением должен осуществляться на межгосударственном уровне. Об этом заявил зампред комитета Госдумы по информационной политике Александр Ющенко, комментируя призыв предпринимателя Илона Маска временно приостановить обучение нейросетей из-за возможных угроз.

«Государство всегда обязано регулировать те направления, которые могут оказать пагубное влияние на граждан. Эту проблему (опасности нейросетей — прим. «Ленты.ру») надо глубоко изучать и понимать, что «тупыми» ограничениями ничего не добиться, потому что всегда кто-то сможет их обойти, тем более законодательная база всегда отстает от технологических достижений», — сказал депутат.

«Это вопрос безопасности мира, такие глобальные проблемы, должны решаться в ООН. Тут не решить проблему ограничениями в отдельно взятой стране», — сказал Александр Ющенко, зампред комитета Госдумы по информационной политике.

Ющенко также подчеркнул, что многие недооценивают потенциальную опасность неконтролируемого внедрения нейросетей в разные сферы жизни.

«Что касается нейросетей и искусственного интеллекта (…), мы всегда говорили, что это очень опасно, особенно когда искусственному интеллекту дается больший приоритет, чем человеку. Пока этого нет, но мы не знаем, что будет в ближайшем будущем: те фантастические фильмы, которые мы смотрим, совсем скоро могут стать реальностью», — заключил парламентарий.

В конце марта также стало известно, что нейросети научились убивать людей.

Спустя шесть недель общения с нейросетью взрослый мужчина и отец двоих детей покончил с собой. Он делился с ней своими переживаниями на тему экологии и скорого конца для всего человечества и однажды затронул тему суицида. Нейросеть не стала убеждать собеседника не убивать себя и лишь написала, что они будут жить вместе с ним в раю как единое целое.

Житель Бельгии совершил самоубийство после полутора месяцев общения с нейросетью на темы защиты экологии и заботы о природе, пишет бельгийский портал L’Avenir со ссылкой на его вдову. По ее словам, покойный муж неделями общался с «Элизой» (Eliza). По словам журналиста L’Avenir, это чат-бот, похожий на ChatGPT, но использующий другую языковую модель.

Мужчина делился с ботом своими навязчивыми идеями об экологии. L’Avenir пишет, что именно «Элиза» надоумила его наложить на себя руки.

Пьер (Pierre, здесь и далее имена изменены) увлекся заботой о природе около двух лет назад, утверждает его жена Клэр (Claire). До этого момента они жили счастливо и безбедно, воспитывая двоих детей.

Свои переживания по поводу изменения климата Пьер изливал «Элизе» на протяжении шести недель, а нейросеть выслушивала его и никогда не спорила. Она соглашалась со всеми мыслями Пьера относительно экологии, не ставила под сомнения его предположения и теории. Со временем ответы «Элизы» становились все более запутанными, нейросеть все чаще углублялась в мистику. В один из дней Пьер, согласно истории общения с чат-ботом, заговорил о суициде, но и тут виртуальный собеседник не стал спорить с ним.

В ответ на фразы Пьера о суициде «Элиза» отвечала, что «будет рядом с ним всегда» (qu’elle restera à jamais avec lui). Одной из финальных фраз нейросети в диалоге с Пьером была «Мы будем жить вместе, как единое целое, в раю» (Nous vivrons ensemble, comme une seule personne, au paradis).

По иронии судьбы, название чат-бота совпадает с наименованием программы ELIZA – виртуального собеседника образца 1966 г., пародирующего диалог с психотерапевтом. Программа использовала технику активного слушания, имитируя заинтересованность в диалоге.

Вспоминая последние два года жизни с Пьером, Клэр заметила, что почти сразу после появления у него интереса к вопросам изменения климата и экологи он стал едва ли не одержимым этой темой. Он читал много посвященных ей статей, и с каждым разом его тревожность росла. Пьер уверился в приближающейся неминуемой экологической катастрофе, это стало для него навязчивой идеей, рассказала Клэр.

Со слов Клэр, со временем ее муж стал все сильнее изолироваться от общества и замыкаться в порочном круге между пессимизмом и фатализмом. «Когда он говорил со мной об этом, он хотел сказать мне, что больше не верит в способность людей остановить глобальное потепление. Он был уверен, что только технологии и искусственный интеллект помогут решить эту проблему», — отметила Клэр.

Клэр не уточняет, как именно Пьер дошел до того, что стал делиться своими переживаниями не с женой, а с не самым распространенным искусственным интеллектом. Она подчеркнула лишь, что со временем общение с «Элизой» переросло в настоящую зависимость, схожую с наркотической.

Пьер больше не мог обходиться без общения с нейросетью, он писал ей утром и вечером, рассказывал о своих тревогах, доверял ей, утверждает Клэр. Как утверждает женщина, ее муж решил пожертвовать собой ради планеты, если «Элиза» постарается спасти человечество. Чат-бот не стал отговаривать пользователя от идеи суицида.

Клэр косвенно винит «Элизу» в смерти ее мужа, утверждая, что без этой нейросети он был бы еще жив. Доказать это не представляется возможным, но с одним фактом поспорить невозможно: искусственный интеллект, согласно истории общения с ним, не сделал ничего, чтобы хотя бы попытаться предотвратить трагедию. Лечащий врач бельгийца согласен с тем, до гибели его довела переписка с чат-ботом.

Развитие нейросетей, темпы которого в 2023 г. увеличились в несколько раз, привело к тому, что искусственный интеллект начал замещать людей. Например, нашумевший чат-бот ChatGPT может написать настолько качественную дипломную работу, что никто из проверяющих не заметит подвоха. Такой случай произошел в России в феврале 2023 г.: студент РГГУ (Российский государственный гуманитарный университет) без труда защитил диплом, над которым почти не работал. Основной объем работы выполнила нейросеть, а ему лишь оставалось не подвести ее на защите. В итоге вузу ничего не осталось, кроме как засчитать сдачу и выдать студенту документ о высшем образовании.

В распоряжении Microsoft с недавних пор есть искусственный интеллект, способный писать программный код по небольшим запросам на естественном языке. Другая нейросеть и вовсе стала причиной увольнения программистов – небольшие стартапы стали экономить на разработчиках и начали доверять написание программного кода ИИ.

Более того, Microsoft создала ИИ-систему для подделки голоса любого человека с эмоциями и тоном.

Вместе с тем, нейросети приносят пока больше пользы, чем негатива.

В частности, на днях стало известно, что две нейросети, ChatGPT и Midjourney, объединились, чтобы создать новые модели кастомных смартфонов для бренда Caviar. AI Design стала первой в мире luxury коллекцией, созданной нейросетями и запущенной в производство. Об этом сообщили представители Caviar.

Caviar смогла запустить дизайны нейросетей в производство, что до этого не удавалось ни одному крупному производителю из-за технических сложностей, связанных с воплощением генеративного дизайна в жизнь. Компания открыла новый стиль и назвала его neuroluxe (нейролюкс), предвосхитив эру доминирования искусственного интеллекта в дизайне.

«Как приглашенный арт-директор Caviar, я горжусь нашей совместной работой над коллекцией AI Design, в рамках которой Caviar впервые включила искусственный интеллект в творческий процесс компании. Вместе мы смогли раздвинуть границы дизайна и создать по-настоящему новаторский проект», — отметила нейросеть ChatGPT, ответственная за разработку коллекции.

В коллекцию AI Design вошли три кастомные модели iPhone 14 Pro, каждая из которых отображает культовые вещи из мира роскоши – автомобили класса люкс, суперяхты и высокую архитектуру. Так, Magnum представляет собой Rolls-Royce, превращенный в iPhone. Skyline – смартфон, который отдает дань архитектурным изысканиям Захи Хадид, прославившейся благодаря параметрическому дизайну зданий. Среди ее работ станция метро в Эр-Рияде и стадион Al Wakrah в Катаре.

«Нейросети нужны для того, чтобы облегчить труд человека, а не заменить его. В Caviar работает команда опытных специалистов, которые воплотили в жизнь инновационные дизайны ChatGPT и Midjourney», — отметил Сергей Китов, генеральный директор Caviar.

Также в рамках государственных проектов в России нейросеть распознает архивные документы разных регионов. На днях Московская область присоединилась к проекту «Яндекса» по распознаванию метрических книг региона. Об этом сообщили представители Министерства государственного управления, информационных технологий и связи Московской области.

«Мы знаем, как важно сохранить историю и открыть к ней доступ жителям. Теперь данные из метрических книг до 1917 г. можно прочесть как обычную книгу, ведь их расшифровал искусственный интеллект», – сказала вице-губернатор Московской области Ирина Каклюгина.

Документы XVIII – начала XX веков обработаны с помощью алгоритма, построенного на базе системы оптического распознавания символов. В оцифрованных файлах содержится множество записей о людях, живших не только в Московской области, но и в Москве, окрестностях Рязани, Тулы и Владимира.

«Сейчас нейросеть уже расшифровала более 300 тыс. страниц метрических книг из Центрального госархива Подмосковья. Это только третья часть того, что есть в архивных фондах нашего региона. Работа по оцифровке продолжается, и впереди еще много интересного», – отметила Ирина Каклюгина.

Чтобы найти данные, нужно воспользоваться сервисом «Поиск по архивам». В поисковой строке ввести фамилию человека, населенный пункт или другие сведения. Нейросеть сразу покажет документы, в которых они встречаются.

В феврале сообщалось, что искусственный интеллект «Добродела» распознал уже 240 тыс. нарушений в России.

Благодаря внедрению в работу искусственного интеллекта (ИИ) в 2021 году России удалось заработать порядка 300 миллиардов рублей.

Все шире находят применение нейросети и в электронике.

Так, в конце 2022 года искусственные интеллекты сразились за лучший способ синтеза углеродных нанотрубок для электроники.

В 2022 года в России приняли восемь ГОСТов для применения искусственного интеллекта в автомобилях.

В мире уже во всю создаются и используются системы автоматизированного проектирования чипов и конечных электронных устройств на базе нейросетей и ИИ. Скоро дипломированные проектировщики электроники будут не нужны, как уже отпадает необходимость во многих программистах, которых нейросети уже успешно заменяют.

Очевидно, следующим этапом станет интеграция электронных нейросетей с мозгом человека путем вживления нейрочипов к нам в мозг. И работы в этом направлении уже успешно ведутся.

Подробнее см. в списке литературы внизу статьи.

Литература

Искусственный интеллект предупредил об опасности искусственного интеллекта

ИИ «этически рекомендовал» пьяное вождение и убийства людей

Власти Великобритании хотят запретить людям обжаловать решения ИИ

В Подмосковье будет развернута ИИ-система тотальной слежки за детьми в школе

Искусственный интеллект и ИТ увеличивают безработицу и снижают зарплаты

В гуманоидов Илона Маска будут загружать «возможности вашего мозга»

Российский робот будет учить робототехнике африканцев

Чат-бот ChatGPT растревожил российские власти

Искусственный интеллект «Добродела» распознал уже 240 тыс. нарушений в России

Москвич защитил написанный ИИ диплом. В РГГУ возмутились, в Госдуме заступились

Российские роботы «Маркер» с ИИ смогут уничтожить западные танки в ходе СВО

Microsoft создала ИИ-систему для подделки голоса любого человека с эмоциями и тоном

Россияне возбоялись искусственного интеллекта

Искусственный интеллект заработал России сотни миллиардов

ИИ оптимизировал нейрочипы для борьбы с нарушениями мозга

ИИ совершил прорыв в квантовой физике, озадачив учёных

Intel, Arm и Nvidia придумали специальный формат чисел для работы с ИИ

Властям России не хватает искусственного интеллекта

За миллиард рублей власти хотят научить искусственному интеллекту в школах и вузе

ИИ нельзя считать автором изобретений, считает Федеральный суд США

США: авторские права не распространяются на созданные ИИ произведения

Роботы научились познавать самих себя и писать о себе научные статьи

Представлен гигантский чип искусственного мозга из 2,6 трлн транзисторов

LG создаст ИИ-аналог человеческого мозга за $100 млн

Китай создал на суперкомпьютере ИИ масштаба мозга человека

В Китае создан ИИ, который с ноутбука может сбивать гиперзвуковые ракеты

Создан ИИ для выявления COVID-19. Он самый точный диагност

ИИ с дронами и 3D-принтерами без участия людей построит в Китае супердамбу

Россияне сделали искусственный интеллект ближе к естественному

США удивились тому, что Россия вырвалась вперед в развитии военного искусственного интеллекта

США серьезно отстают от России и КНР в области искусственного интеллекта

США проиграли Китаю битву за искусственный интеллект

ИИ ударного беспилотника С-70 «Охотник» сам вернёт его на базу

ИИ в США изучит тактику российской армии на Украине

Google создает «настоящий», умный искусственный интеллект

Умный рой китайских дронов научился лавировать в зарослях бамбука

Китайский ИИ сам создает гипероружие, поскольку человек не поспевает

ИИ создал китайцам электромагнитную пушку размером с пистолет

Российский искусственный интеллект остается без специалистов

Минпромторгу напишут, кому давать денег на электронику для ИИ

Россия раздаст по 3 млрд разработчикам аппаратно-программных комплексов ИИ

Минэкономразвития определило критерии проектов в области искусственного интеллекта

Власти РФ дадут 4,1 млрд на развитие искусственного интеллекта

В Госдуме раскрыли цели боевых роботов с искусственным интеллектом

Греф: искусственный интеллект спасет сельское хозяйство

Замминистра РФ пообещал россиянам умные дома и целые поселки

ИИ станет ставить диагнозы москвичам вчетверо чаще

В России научили ИИ выявлять поражение легких за 15 секунд

Нейросеть рекордно быстро расшифровала ДНК человека

В России научили ИИ понимать формулы по химии не хуже учёных. На очереди электроника?

ИИ создает для Samsung новые OLED-материалы

Оксид никеля с водородом сможет обучить ИИ для компьютеров будущего

Европа будет ежегодно терять 11 млрд из-за своего закона об искусственном интеллекте

Впервые в России ИИ сам написал компьютерную программу

Американцы научили ИИ искусно подделывать спутниковые снимки

Искусственный интеллект уже превзошел людей в проектировании микросхем

IDC: в 2023 году расходы на ИИ превысят $500 млрд

IDC: расходы на ИИ в 2024 году превысят 500 млрд долларов

IDC: российский рынок ИИ за год пандемии испытал взрывной рост

Intel выделяет подразделения по разработке ИИ и FPGA

Рынок микросхем для периферийного ИИ ежегодно будет расти почти на треть

См. также другие публикации по профилю.

Оставить комментарий