Гендиректор SpaceX, Tesla и Twitter Илон Маск, сооснователь и соучредитель Apple Стив Возняк, соучредитель Skype Яан Таллин, соучредитель Pinterest Эван Шарп, а также сотни других всемирно известных предпринимателей, менеджеров, разработчиков и профессоров лучших вузов мира подписали открытое письмо, в котором требуют приостановить бесконтрольные эксперименты в области искусственного интеллекта.
Главное из письма
- Подписанты просят все компании, лаборатории которых занимаются разработками в области ИИ остановить свою деятельность хотя бы на полгода.
- Программы ИИ, конкурирующие с человеческим интеллектом, могут быть опасны и представлять большую угрозу человечеству, что уже доказали множественные исследования в этой области.
- ИИ необходимо контролировать и управлять им, что на данный момент не происходит.
- Компании в последние месяцы устроили бесконтрольную гонку в разработке систем ИИ.
- Результаты не могут контролировать, предсказывать и даже понимать в том числе и создатели систем.
- Подписанты задаются вопросом, можно ли позволить ИИ свободно общаться с пользователями сети и пропагандировать им далеко не всегда правдивую информацию.
- Также задается вопрос о том, можно ли позволить ИИ заменить людей на множествах рабочих мест и не приведет ли это к тому, что программы перехитрят человека вплоть до того, что мы можем потерять контроль над нашей цивилизацией.
- Дальнейшие разработки в области ИИ должны вестись только тогда, когда риски будут управляемы, а эффект от инноваций исключительно положительный.
- Приводится высказывание представителей OpenAI, где говориться о том, что наступит момент ограничения темпов роста вычислений для ИИ. Подписанты согласились, что такой момент наступил.
- Призывается немедленно оставить как минимум на полгода все разработки, превышающие мощность GPT-4.
- Если компании откажутся, то правительство должно ввести мораторий.
- За это время должны быть разработаны общие протоколы безопасности в области разработки ИИ. Они должны прозрачно и безальтернативно подтверждать безопасность проектов и скрупулезно контролироваться в дальнейшем.
- Письмо не призывает вовсе прекратить разработки, только остановиться в создании непредсказуемых моделей.
- Главное- сделать разработки безопасными, прозрачными, точными, надежными и в целом заслуживающими доверия
- Вместе с этим проблема должна получить соответствующее государственное регулирование.
- В первую очередь необходимо создать новые контролирующие государственные органы. Основными их функциями будет: надзор за вычислительными возможностями, создание механизмов, с помощью которых контент ИИ можно легко отличить от естественного, сертифицирование компаний и разработок, создание системы мер ответственности за нарушение норм, обеспечение надежного госфинансирования не только технологичных компаний, но и учреждений, которые будут заниматься экономическими проблемами, которые возникнут при распространении ИИ в повседневной жизни
- Общество нашло в себе силы остановить другие опасные разработки с возможными катастрофическими последствиями, пришло время
enjoy a long AI summer, not rush unprepared into a fall
(наслаждаться долгим летом ИИ, а не бросаться неподготовленными в осень)
На момент написания материала свои подписи под изложенным поставили 1377 известных и авторитетных в мире интонационных технологий людей. Среди них немало представителей компаний и лабораторий, непосредственно разрабатывающих ИИ.
На ставропольском телевидении прогноз погоды для «человеков» ведёт нейросеть
GPT-4 встроят в Excel. Как искусственный интеллект будет помогать офисным работникам?
«Сделай красИИво»: нейросети начинают вытеснять писателей с Amazon
Google в панике, а Сергей Брин сам сел кодить: компания сообщила о скором запуске аналога ChatGPT
