Искусственный интеллект (ИИ) активно внедряется в образовательную и социальную сферы, автоматизируя рутинные задачи и освобождая время для более творческих процессов. Однако этот процесс сопровождается значительными рисками.
В Москве прошел круглый стол, на котором эксперты в области ИТ обсудили потенциальные угрозы ИИ для образования. Игорь Ашманов, предприниматель и член Президентского совета по правам человека, выразил сомнения по поводу надежности ИИ в обучении. Он привел пример голосового помощника «Яндекс Алиса», который ошибается в своих ответах, подчеркивая, что нейросети не всегда могут обеспечить однозначность и точность информации. По его мнению, необходим строгий контроль за использованием таких технологий в учебных заведениях.
Еще одной проблемой, обозначенной Ашмановом, является качество обучения нейросетей. Он указал на то, что большинство моделей тренируются на англосаксонской литературе, что может приводить к ответам, которые не соответствуют российскому контексту. В качестве решения он предложил разработку отечественных кластеров для тренировки нейросетей и более тщательное отслеживание качества их ответов.
Наталья Касперская, также принявшая участие в обсуждении, акцентировала внимание на социальных и психологических рисках, связанных с использованием ИИ. Она отметила, что врачи фиксируют замедление психического развития детей и снижение их коммуникативных навыков, что может быть обусловлено преобладанием общения с чат-ботами вместо живого общения. Консолидация таких мнений подчеркивает необходимость серьезного подхода к интеграции ИИ в образовательный процесс.
Касперская акцентировала внимание на негативном воздействии технологий на здоровье детей, выделяя проблемы, такие как сколиоз и ухудшение зрения из-за чрезмерного использования гаджетов.
Кроме того, возросшая доступность контента, создаваемого искусственным интеллектом, усугубляет ситуацию, провоцируя зависимость. В связи с этим, Касперская предложила решение: во время учебы запрещать доступ к смартфонам.
Эксперты также указывают на основные угрозы, исходящие от ИИ: распространение ложной информации, утрату социальных навыков и углубление цифрового неравенства среди молодежи.
Чтобы минимизировать эти риски, предложены конкретные меры. Все участники обсуждения согласны с тем, что правильное применение ИИ в образовании может принести значительные выгоды. Будущее зависит от подхода человечества к этой технологии.
