Илон Маск присоединяется к более чем 1,000 экспертов, призывающих приостановить разработки "ИИ"

Генеральный директор Twitter Илон Маск присоединился к десяткам экспертов в области искусственного интеллекта (ИИ) и руководителей отрасли, подписав открытое письмо, призывающее все лаборатории разрабатывающие Искусственный Интеллект «немедленно приостановить» обучение систем, более мощных, чем Chat GPT-4, как минимум на шесть месяцев.

Письмо, выпущенное некоммерческим институтом Future of Life, подписали более 1,100 человек, в том числе соучредитель Apple Стив Возняк, основатель и генеральный директор Stability AI Эмад Мостак, а также инженеры из Meta и Google и другие.

Они утверждают, что системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять «серьезные риски для общества и человечества» и изменить «историю жизни на Земле», ссылаясь на обширные исследования по этому вопросу и признание «ведущих лабораторий разрабатывающих Искусственный Интеллект».

Далее эксперты заявляют, что в настоящее время планирование и управление передовыми системами искусственного интеллекта ограничены, несмотря на то, что компании в последние месяцы «застряли в неконтролируемой гонке за разработку и развёртывание всё более мощных цифровых умов, которые никто — даже их создатели — может понимать, предсказывать или надежно контролировать».

«Современные системы искусственного интеллекта сейчас становятся конкурентоспособными в решении общих задач и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе выполняющие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, устаревать и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий», — говорится в письме.

Необходимы протоколы безопасности

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми», — добавляет он.

Затем в письме содержится призыв к публичной и поддающейся проверке минимальной шестимесячной паузе в обучении систем искусственного интеллекта, более мощных, чем GPT-4, или установленный правительством мораторий на такое обучение, если пауза не может быть введена быстро.

Во время такой паузы лаборатории ИИ и независимые эксперты должны использовать это время для создания и внедрения набора общих протоколов безопасности для продвинутого проектирования и разработки ИИ, которые «тщательно проверяются» и контролируются независимыми сторонними экспертами, говорится в письме.

По словам экспертов, такие протоколы должны быть разработаны таким образом, чтобы гарантировать, что системы, придерживающиеся их, безопасны вне разумных сомнений, точны, заслуживают доверия и согласованы.

Кроме того, в письме содержится призыв к политикам быстро разработать надежные системы управления ИИ, такие как органы власти, способные осуществлять надзор и отслеживать высокоэффективные системы ИИ, привлекать финансирование для дополнительных исследований безопасности ИИ и создавать институты, которые могут справиться с тем, что, по их словам, будет «драматические экономические и политические потрясения (особенно демократии), которые вызовет ИИ».

«Это не означает паузу в развитии ИИ в целом, а просто шаг назад от опасной гонки к всё более крупным непредсказуемым моделям черного ящика с появляющимися возможностями», — отмечают эксперты в своём письме.

Письмо было отправлено всего через две недели после того, как компания OpenAI, создатель системы искусственного интеллекта ChatGPT, 14 марта выпустила долгожданное обновление своей технологии искусственного интеллекта — Chat GPT-4, самую мощную систему искусственного интеллекта за всю историю.

Выпущено обновление ChatGPT

Согласно OpenAI, поддерживаемой Microsoft, обновленная система имеет ряд новых возможностей, таких как приём изображений в качестве входных данных и создание подписей, классификаций и анализов, но она безопаснее и точнее, чем её предшественник.

В февральском заявлении OpenAI признал, что в какой-то момент может быть важно получить «независимую оценку, прежде чем приступать к обучению будущих систем, а для самых продвинутых усилий согласиться ограничить скорость роста вычислений, используемых для создания новых моделей».

«Мы думаем, что общедоступные стандарты в отношении того, когда усилия AGI должны остановить тренировочный запуск, решить, что модель безопасно выпускать, или вывести модель из производственного использования, важны. Наконец, мы считаем важным, чтобы крупные правительства мира имели представление об учебных забегах выше определенного масштаба», — заявили в компании.

Ранее на этой неделе Европол, правоохранительный орган Европейского Союза, предупредил о серьезных последствиях использования ChatGPT для киберпреступлений и других злонамеренных действий, включая распространение дезинформации.

Дополнительные опасения были высказаны по поводу программного обеспечения, которое обучается с использованием обучения с подкреплением на основе обратной связи с человеком (RLHF), особенно в отношении того, как его можно использовать, чтобы помочь учащимся списывать на экзаменах и домашних заданиях.

Несмотря на эти опасения, популярность ChatGPT побудила конкурирующие фирмы запустить аналогичные продукты.

На прошлой неделе Google объявила, что запустила своё приложение для искусственного интеллекта, известное как «Бард», для тестирования в Великобритании и США, хотя компания значительно медленнее выпускала технологию по сравнению с конкурентом, ссылаясь на необходимость получения больше отзывов о приложении.