Джеффри Хинтон, известный как «крестный отец» искусственного интеллекта, пересмотрел свои прогнозы относительно потенциальной угрозы, исходящей от ИИ. Он утверждает, что вероятность того, что развитие этой технологии может привести к вымиранию человечества в течение следующих 30 лет, составляет от 10% до 20%. Ранее он оценивал этот риск в 10%, но теперь считает его более серьезным.
В программе Today на BBC Radio 4 он сказал, что человечество никогда не сталкивалось с существами, обладающими более высоким интеллектом, чем оно само. Хинтон подчеркнул, что в истории не было примеров, когда более разумные существа полностью подчинялись менее умным. В качестве редкого исключения он упомянул отношения матери и младенца, однако таких аналогов почти нет.
Также он отмечает, что в сравнении с современными системами искусственного интеллекта люди будут выглядеть как трехлетние дети. Хинтон выразил свои опасения относительно неконтролируемого развития ИИ, что стало одной из причин его ухода из Google в 2023 году. Он желает открыто говорить о рисках, которые несет эта технология, особенно в руках недобросовестных участников рынка.
Эксперт в области искусственного интеллекта Хинтон обозначил серьезные риски, связанные с разработкой ИИ, который мог бы превзойти человеческий интеллект, что ставит под угрозу контроль над ним.
Он признал, что не ожидал столь быстрого прогресса в области технологий, считая, что подобные проблемы возникнут лишь в будущем. Согласно его оценкам, большинство специалистов ожидают, что в течение следующих 20 лет появятся системы, значительно превосходящие людей.
При этом Хинтон выразил сомнение в способности рыночных механизмов обеспечить безопасность ИИ, так как корпорации, ориентированные на прибыль, вряд ли уделят должное внимание потенциальным рискам. Он подчеркивает необходимость государственного регулирования, чтобы побудить компании инвестировать в безопасность технологий.
Тем не менее, не все специалисты придерживаются пессимистичного взгляда Хинтона; например, Янн Лекун, другой лауреат премии Тьюринга, считает, что ИИ может стать спасением для человечества. Эти противоречивые мнения подчеркивают сложность и многообразие дискуссий вокруг будущего ИИ.
