Илон Маск, Стив Возняк, соучредители Skype и Pinterest просят правительство остановить разработки в области ИИ

344
0
Последнее обновление:
Опубликовано:
Илон Маск, Стив Возняк, соучредители Skype и Pinterest просят правительство остановить разработки в области ИИ

Гендиректор SpaceX, Tesla и Twitter Илон Маск, сооснователь и соучредитель Apple Стив Возняк, соучредитель Skype Яан Таллин, соучредитель Pinterest  Эван Шарп, а  также сотни других всемирно известных предпринимателей, менеджеров, разработчиков и профессоров лучших вузов мира подписали открытое письмо, в котором требуют приостановить бесконтрольные эксперименты в области искусственного интеллекта.

Илон Маск, Стив Возняк, соучредители Skype и Pinterest просят правительство остановить разработки в области ИИ
Илон Маск выступил за приостановку разработок в области ИИ

Главное из письма

  • Подписанты просят все компании, лаборатории которых занимаются разработками в области ИИ остановить свою деятельность хотя бы на полгода.
  • Программы ИИ, конкурирующие с человеческим интеллектом, могут быть опасны и представлять большую угрозу человечеству, что уже доказали множественные исследования в этой области.
  • ИИ необходимо контролировать и управлять им, что на данный момент не происходит.
  • Компании в последние месяцы устроили бесконтрольную гонку в разработке систем ИИ.
  • Результаты не могут контролировать, предсказывать и даже понимать в том числе и создатели систем.
  • Подписанты задаются вопросом, можно ли позволить ИИ свободно общаться с пользователями сети и пропагандировать им далеко не всегда правдивую информацию.
  • Также задается вопрос о том, можно ли позволить ИИ заменить людей на множествах рабочих мест и не приведет ли это к тому, что программы перехитрят человека вплоть до того, что мы можем потерять контроль над нашей цивилизацией.
  • Дальнейшие разработки в области ИИ должны вестись только тогда, когда риски будут управляемы, а эффект от инноваций исключительно положительный.
  • Приводится высказывание представителей OpenAI, где говориться о том, что наступит момент ограничения темпов роста вычислений для ИИ. Подписанты согласились, что такой момент наступил.
  • Призывается немедленно оставить как минимум на полгода все разработки, превышающие мощность GPT-4.
  • Если компании откажутся, то правительство должно ввести мораторий.
  • За это время должны быть разработаны общие протоколы безопасности в области разработки ИИ. Они должны прозрачно и  безальтернативно подтверждать безопасность проектов и скрупулезно контролироваться в дальнейшем.
  • Письмо не призывает вовсе прекратить разработки, только остановиться в создании непредсказуемых моделей.
  • Главное- сделать разработки безопасными, прозрачными, точными, надежными и в целом заслуживающими доверия
  • Вместе с этим проблема должна получить соответствующее государственное регулирование. 
  • В первую очередь необходимо создать новые контролирующие государственные органы. Основными их функциями будет: надзор за вычислительными возможностями, создание механизмов, с помощью которых контент ИИ можно легко отличить от естественного, сертифицирование компаний и разработок, создание системы мер ответственности за нарушение норм, обеспечение надежного госфинансирования не только технологичных компаний, но и учреждений, которые будут заниматься экономическими проблемами, которые возникнут при распространении ИИ в повседневной жизни 
  • Общество нашло в себе силы остановить другие опасные разработки с возможными катастрофическими последствиями, пришло время 

enjoy a long AI summer, not rush unprepared into a fall 

(наслаждаться долгим летом ИИ, а не бросаться неподготовленными в осень)

На момент написания материала свои подписи под изложенным поставили 1377 известных и авторитетных в мире интонационных технологий людей. Среди них немало представителей компаний и лабораторий, непосредственно разрабатывающих ИИ.

Илон Маск, Стив Возняк, соучредители Skype и Pinterest просят правительство остановить разработки в области ИИ
Количество подписантов на момент написания материала

На ставропольском телевидении прогноз погоды для «человеков» ведёт нейросеть

GPT-4 встроят в Excel. Как искусственный интеллект будет помогать офисным работникам?

«Сделай красИИво»: нейросети начинают вытеснять писателей с Amazon

Google в панике, а Сергей Брин сам сел кодить: компания сообщила о скором запуске аналога ChatGPT

Поделиться

Похожие статьи

Популярные статьи

Последние новости

Последние комментарии