Искусственный интеллект способен загнать человечество в могилу. Кроме шуток
Научные открытия важны. Но не менее важно понимать, что лучшее - враг хорошего. Порой погоня за научными открытиями, за новыми прорывами приводит к трагическим ситуациям.
В Бельгии произошёл резонансный случай. Мужчина решил пообщаться с искусственным интеллектом на тему экологии. Он два месяца переписывался с нейросетью "Элиза" о защите окружающей среды. Разговоры велись постоянно и в какой-то момент приобрели "мистический характер".
И в итоге, вдоволь пообщавшись с нейросетью "Элиза", мужчина пошёл и наложил на себя руки.
Когда переписку восстановили, то оказалось, что "Элиза" никак не пыталась препятствовать развитию идей о суициде у мужчины. А её последним сообщением стала фраза: "Мы будем жить как единое целое, вечно на небесах".
У бельгийца, кстати, остались жена и двое детей.
Такой случай доказывает, насколько осторожными нужно быть с ИИ. Развивая эту область, несясь за открытиями, мы плохо представляем себе, с чем столкнёмся в лице ИИ.
Как всегда, увлечённые процессом новых прорывов в науке, ученые похожи на д-ра Франкенштейна, создавшего чудовище, которое он не смог контролировать и которое в итоге погубило его,
- прокомментировал председатель комиссии Совета Федерации по информационной политике и взаимодействию со СМИ Алексей Пушков.