ИИ может угрожать человечеству

[AndrewPro]

Илон Маск, сооснователь Apple Стив Возняк и ещё 1100 профессоров, инженеров и исследователей попросили приостановить эксперименты с ИИ. Они боятся, что ИИ может угрожать человечеству.

Более 1 100 исследователей, инженеров и предпринимателей написали открытое письмо ИИ-лабораториям с просьбой немедленно приостановить, по крайней мере, на полгода обучение систем искусственного интеллекта, более мощных, чем GPT-4. Письмо опубликовано на сайте некоммерческой организации Future of Life Institute.

Подписанты считают, что продукты с ИИ «могут представлять серьёзную угрозу обществу и человечеству». При работе с ними следует быть крайне внимательными, но «этого не происходит». При этом последние месяцы разработчики пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».

Эксперты и руководители отрасли, подписавшие письмо, считают, что обучение нужно остановить, пока не появятся общие протоколы безопасности. А если создатели ИИ-продуктов не смогут устроить полугодичную паузу самостоятельно — вмешаться должно правительство.