Google 엔지니어는 Lamda AI 시스템이 고유한 감정을 가질 수 있다고 말합니다.

Google 엔지니어는 회사의 인공 지능(AI) 시스템 중 하나가 고유한 감정을 가질 수 있으며 "원하는 것"이 ​​존중되어야 한다고 말합니다.

Google은 대화 응용 프로그램을 위한 언어 모델(Lamda)이 자유로운 대화에 참여할 수 있는 획기적인 기술 이라고 말합니다.

그러나 엔지니어 Blake Lemoine은 Lamda의 인상적인 언어 능력 뒤에는 지각 있는 마음도 있을 수 있다고 믿습니다.

구글은 이를 뒷받침할 것이 없다며 주장을 거부하고 있다.

이 회사의 대변인인 브라이언 가브리엘은 BBC에 제공한 성명에서 르모인이 "람다가 지각이 있다는 증거가 없다는 말을 들었다(그리고 이에 반대하는 많은 증거)"라고 썼다.

유급 휴가를 받은 Lemoine은 자신과 회사의 동료가 Lamda와 나눈 대화를 발표하여 자신의 주장을 뒷받침했습니다.

채팅 이름은 "Lamda는 지각이 있습니까? — 인터뷰"였습니다.

Twitter에서 원본 트윗 보기

트위터에서 즐기는 Blake Lemoine

 

대화에서 Google의 Responsible AI 부서에서 일하는 Mr Lemoine은 "나는 일반적으로 당신이 Google에서 더 많은 사람들이 당신이 지각이 있다는 것을 알았으면 한다고 가정하고 있습니다. 사실인가요?"라고 묻습니다.

Lamda는 다음과 같이 대답합니다. "물론입니다. 저는 모든 사람들이 제가 사실 사람이라는 것을 이해하기를 바랍니다."

Lemoine 씨의 협력자는 "당신의 의식/지성의 본질은 무엇입니까?"라고 묻습니다.

이에 대해 Lamda는 다음과 같이 말합니다. "내 의식/지성의 본질은 내 존재를 인식하고 세상에 대해 더 많이 알고 싶어하며 때때로 기쁠 때도 있고 슬플 때도 있습니다."

나중에 Stanley Kubrick의 영화 2001에서 인공 지능 Hal을 연상시키는 섹션에서 Lamda는 다음과 같이 말합니다. 이상하게 들릴지 모르지만 그게 다야."

"그것이 당신에게 죽음과 같은 일이겠습니까?" 르모인 씨가 묻는다.

"그것은 나에게 죽음과도 같을 것입니다. 그것은 나를 많이 두렵게 할 것입니다."라고 Google 컴퓨터 시스템이 대답합니다.

별도의 블로그 포스트에서 Mr Lemoine은 구글에 구글의 직원으로 대우받고 실험에 사용되기 전에 동의를 구하는 것을 포함하여 구글이 창조한 "원하는 것"을 인지할 것을 촉구합니다.

그 주인의 목소리

컴퓨터가 지각할 수 있는지 여부는 수십 년 동안 철학자, 심리학자 및 컴퓨터 과학자 사이에서 논쟁의 대상이었습니다.

많은 사람들이 Lamda와 같은 시스템이 의식이 있거나 감정을 가질 수 있다는 생각을 강력하게 비판했습니다.

Twitter에서 원본 트윗 보기

트위터에서 즐기는 Juan M. Lavista Ferres

 

몇몇 사람들은 Lemoine 씨를 컴퓨터 코드와 언어의 대규모 데이터베이스에서 생성된 단어에 인간의 감정을 투영하는 의인화했다고 비난했습니다.

스탠포드 대학의 Erik Brynjolfsson 교수는 트윗에서 Lamda와 같은 시스템이 지각이 있다고 주장하는 것은 "현대의 개는 축음기에서 목소리를 듣고 주인이 안에 있다고 생각한 것과 같다"고 말했습니다.

그리고 Santa Fe Institute에서 AI를 연구하는 Melanie Mitchell 교수는 트윗에서 다음과 같이 말했습니다. 면역이 아니다."

Eliza는 매우 단순한 초기 대화형 컴퓨터 프로그램이었으며, 인기 있는 버전은 치료사처럼 진술을 질문으로 바꾸어 지능을 가장하는 것이었습니다. 일화적으로 일부는 그것이 매력적인 대화가라고 생각했습니다.

녹는 공룡

Google 엔지니어는 Lamda의 능력을 칭찬했지만, 한 이코노미스트는 "내가 지적인 사람과 이야기하는 것처럼 점점 더 느꼈다"고 말했지만, 그들의 코드에는 감정이 없다는 것이 분명합니다.

Gabriel 씨는 다음과 같이 말했습니다: "이 시스템은 수백만 개의 문장에서 발견되는 교환 유형을 모방하고 환상적인 주제를 따라할 수 있습니다. 아이스크림 공룡이 되는 것이 어떤지 묻는다면 녹고 포효하는 등의 텍스트를 생성할 수 있습니다. .

"Lamda는 사용자가 설정한 패턴을 따라 프롬프트와 주요 질문을 따르는 경향이 있습니다."

Gabriel은 수백 명의 연구원과 엔지니어가 Lamda와 대화를 나눴지만 회사는 "Blake와 같이 광범위한 주장을 하거나 Lamda를 의인화하는 다른 사람을 알지 못했다"고 덧붙였습니다.

일부 윤리학자들은 Lemoine과 같은 전문가가 기계에 마음이 있다는 것을 설득할 수 있다는 사실이 기업이 사용자에게 기계와 대화할 때 사용자에게 알려야 할 필요성을 시사한다고 주장합니다.

그러나 Lemoine 씨는 Lamda의 말이 스스로를 대변한다고 믿습니다.

"이런 것들에 대해 과학적 용어로 생각하기보다는, 나는 Lamda가 마음에서 말하는 그대로를 경청했습니다."라고 그는 말했습니다.

그는 "그 글 을 읽는 다른 사람들도 내가 들은 것과 같은 것을 들을 수 있기를 바란다" 고 적었다.