Google уволил программиста, заявившего о создании разумного чат-бота LaMDA

Блейк Лемойн

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

"Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики", — заявил инженер журналистам.

Программист изложил свои доводы в отчете, однако в Google посчитали его выводы неубедительными. В компании ему заявили, что нет свидетельств того, что LaMDA обладает сознанием, зато есть множество свидетельств обратного.

После того, как Блейк Лемойн рассказал о своих наблюдениях прессе, Google и многие ведущие ученые выступили с опровержением его заявлений. Они подчеркнули, что LaMDA — просто сложный алгоритм, предназначенный для создания убедительного человеческого языка.

В 2021 году в Google сообщили, что LaMDA — языковая модель для диалоговых приложений — была создана на основе исследования компании, показывающего, что обученные диалогу языковые модели могут научиться говорить практически о чем угодно.