Эксперты ВТБ назвали 3 правила защиты детей от ИИ
Эксперты ВТБ назвали правила безопасного использования ИИ детьми
Специалисты банка ВТБ в преддверии Дня защиты детей определили ключевые принципы, которые позволят родителям обучить ребенка осознанному и безопасному взаимодействию с искусственным интеллектом (ИИ). По мнению аналитиков, основная задача заключается в разъяснении сути технологии и установлении корректных границ ее применения.
«Искусственный интеллект – это не живой эксперт и не обычная энциклопедия, а сложный инструмент, который может как быть корректным, так и ошибаться. Ребенок, понимающий этот принцип, уже защищен: он не будет воспринимать ответы ИИ как безоговорочно верные и с меньшей вероятностью доверит ему то, что требует участия человека. Поэтому разговор о нейросетях стоит начинать не с запугивания или списка запретов, а с объяснения того, как они на самом деле работают», – сообщил лидер команды по разработке моделей в ВТБ Алексей Пустынников.
Как пояснил эксперт, нейросеть не обладает мышлением и не хранит правильные ответы в привычном понимании. Она прогнозирует наиболее вероятный ответ, опираясь на данные, на которых проходила обучение. Именно по этой причине система может уверенно сообщить недостоверный факт, сослаться на несуществующее исследование или «вспомнить» вымышленную книгу: модель не выбирает между истинным и ложным, а динамически генерирует максимально правдоподобный, с ее точки зрения, ответ. Если ребенок усвоит этот принцип работы, критическое восприятие информации включится у него автоматически.
«Дети сталкиваются с искусственным интеллектом гораздо раньше, чем начинают пользоваться чат-ботами – каждый раз, когда листают ленту. Это работа рекомендательных алгоритмов: они изучают поведение пользователя и подбирают контент, от которого сложно оторваться. Для ребенка граница между полезным инструментом и источником зависимости очень тонкая. То же касается и чат-ботов: они всегда доступны, никогда не устают и не отказывают – и некоторые дети начинают воспринимать их как друга. Важно объяснить ребенку: ИИ не понимает его и не заботится о нем, а лишь имитирует общение. Настоящую поддержку дают только живые люди», – отметила Анна Ширшова.