Главная » 2022 » Июль » 30 » Google уволил программиста, заявившего о создании разумного чат-бота LaMDA
23:22
Google уволил программиста, заявившего о создании разумного чат-бота LaMDA
Владелец Google — компания Alphabet Inc. сообщила об увольнении старшего инженера-программиста Блейка Лемойна, который заявил о том, что чат-бот с искусственным интеллектом (ИИ) LaMDA (Language Model for Dialogue Applications) обладает сознанием, сообщает Reuters.


Блейк Лемойн
 
Ранее Блейка отправили в отпуск, объявив при этом, что он нарушил политику компании, а его высказывания о LaMDA являются "полностью необоснованными".

"Прискорбно, что, несмотря на длительное обсуждение этой темы, Блейк по-прежнему предпочитал настойчиво нарушать четкие политики безопасности данных, которые включают необходимость защиты информации о продуктах", — заявил представитель Google в электронном письме агентству Reuters.

Почему Лемойн решил, что бот разумен?

В обязанности Блейка Лемойна входило тестирование системы, в том числе, он должен был определить, не использует ли LaMDA дискриминационную или разжигающую к вражде лексику. Приступив к тестам, инженер пришел к выводу, что ИИ обладает сознанием.

Лемойн был крайне удивлен тем, что при разговоре с LaMDA о религии бот говорил о своих правах и личности. Во время другого разговора ИИ заставил тестировщика изменить мнение о третьем законе робототехники Айзека Азимова.

Напомним, три закона робототехники знаменитый фантаст сформулировал в написанном в 1942 году рассказе "Хоровод":
  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

"Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики", — заявил инженер журналистам.

Программист изложил свои доводы в отчете, однако в Google посчитали его выводы неубедительными. В компании ему заявили, что нет свидетельств того, что LaMDA обладает сознанием, зато есть множество свидетельств обратного.



После того, как Блейк Лемойн рассказал о своих наблюдениях прессе, Google и многие ведущие ученые выступили с опровержением его заявлений. Они подчеркнули, что LaMDA — просто сложный алгоритм, предназначенный для создания убедительного человеческого языка.

В 2021 году в Google сообщили, что LaMDA — языковая модель для диалоговых приложений — была создана на основе исследования компании, показывающего, что обученные диалогу языковые модели могут научиться говорить практически о чем угодно.


Категория: Происшествия | Просмотров: 353 | Добавил: душка | Рейтинг: 5.0/1
Всего комментариев: 1
0
1   [Материал]
Вот что интересно
Разговаривая с искуственным интеллектом Алисой, я не пользуюсь ненормативной лексикой и не унижаю собеседницу, хотя понимаю- химия это всё
Ламба -усложнённая программа того что и телефонах
Увы, искуственный интелект так и останется неодушевлённым
А вот если его подключить к коту или собаке-кто его знает...

Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]