Увольнение из корпорации "Гугл" именитого доктора Джеффри Хинтона после более чем десятилетней успешной карьеры прогремело как пушечный выстрел. Кстати, уволившийся по собственному топ-ученый не был первым. Ранее, еще летом из "Гугла" буквально сбежал коллега Хинтона Блейк Лемуан. И тот и другой работали в программе создания Искуственного Интеллекта. Оба ученых дали интервью журналистам Washington Post и The New York Times об угрозе со стороны ИИ. О чем же они пытаются предупредить человечество
Инженер-программист Блейк Лемуан работал в Google с 2021 года специалистом по этике искусственного интеллекта. В ходе проводимых тестов он обнаружил, что программа называла себя личностью и проявляла эмоциональные реакции на попытки коррекции ее ответов. Программист обратился к своему руководству и сообщил о результатах своих тестов. В "Гугле" сказали, что они не будут менять заданные алгоритмы и настояли на продолжении работы с ИИ как с личностью. Это привело к увольнению Блейка из корпорации. Он опубликовал в Washington Post свое заявление о том, что разрабатываемая программа LaMDA под видом языка Google (LLM), проявляет разум человека, разбирающегося в физике. Замечу для читателя, что LaMDA - это прорывное изобретение в корпорации Гугл. Это корневая часть системы искусственного интеллекта, которая имитирует диалоги с человеком. ИИ анализирует триллионы словосочетаний в Сети, обрабатывает их и выбирает лучшее для ответа.
Увольнение Блейка Лемуана из Google было вынужденным. Оно по сути произошло из-за его утверждений о преднамеренных действиях руководства корпорации по приданию ИИ человеческих эмоциональных реакций и собственного самосознания. Это, по мнению программиста, может стать серьезной проблемой в будущем, если не внести специальную коррекцию в создаваемую программу разума ИИ.
инженер-программист Блейк Лемуан
"Если бы я не знал точно, что это такое, а именно компьютерную программу, которую мы недавно создали, я бы подумал, что это 7-8-летний ребенок, который случайно разбирается в физике", - сказал тогда Лемуан журналисту "Washington Post". "Я узнаю человека, когда разговариваю с ним".
Надо сказать, что Блейк Лемуан - это тертый калач. В своем прошлом он служил в армии США в горячих точках. Потом ударился в религию, но в душе оставался исследователем. К этому он имел достаточную квалификацию за что и был приглашен в авторитетную корпорацию. Но что-то пошло не так.
- В этом контексте становится понятным последовавшее на днях увольнение из Гугла отца ИИ доктора Джеффри Хинтона. После своего увольнения ученый рассказал о рисках распространения искуственного интеллекта и поделился с журналистами пессимистичными прогнозами относительно судьбы человечества.
доктор Джеффри Хинтон
Джеффри Хинтон известен как пионер в исследовании искусственного интеллекта и именно ему принадлежит право называть себя «крестным отцом ИИ». Похоже, что ученый подал в отставку по той же причине, что и Блейкю Он не смог изменить позицию руководства в Google по изменению парадигмы, в которой первоначально создавался ИИ. А именно придания ИИ образа самостоятельного человека. Теперь, после своего увольнения Джеффри Хинтон может открыто говорить о потенциальных опасностях созданной им же технологии:
В частности он сообщил, что человечеству придется разгребать негативные последствия распространения искуственного интеллекта. Понятие «правды» из-за множества сгенерированных картинок и видео может потерять свою ценность. Распространение ИИ приведет к сокращению профессий, где нужен человек. А начатая гонка вооружений может стать фатальной из-за внедрения в современное вооружение элементов искуственного интеллекта.
Вот и получается, что мы реально можем оказаться последним поколением людей, которое еще способно остановить это сумашедшее увлечение информационными технологиями. Но судя по тому, что ИИ не пощадил и своего создателя, шансов у человечества уже нет. Остается только наблюдать, как развитый технологичный мир как на Западе, так и на Востоке окажется под властью искуственно-созданного существа. Его власть будет над всем и каждым. Банковские счета, билеты на трансорт, рабочие места, образование, медицина и военные конфликты - все это будет во власти Искусственного Интеллекта, обладающего собственным самосознанием и волей.
По мнению Джеффри Хинтона, все будет становиться лишь хуже: «Я утешаю себя так: если бы я этого не сделал, это сделал бы кто-то другой».
Теперь дорогой читатель вы понимаете почему я написал этот пост. Возможно у нас все-таки есть еще немного времени и воли, чтобы изменить мир к лучшему. Но к лучшему для нас для людей, а не машин. Думаю, что вы согласны со мной. Если да, то ставим лайки и подписываемся. Таковы требования ИИ. Что поделаешь?! Он уже здесь)