Published Date : 2017년 11월 2일
Author : kias
물론, 숨겨진 갈등과 허점들이 많다. 첨단 기계 학습 소프트웨어와 자율적인 로봇 공학의 시대에, 인공 지능을 위한 인공 지능을 정의하고 구현하는 것은 기계 지능 연구소나 OpenAI와 같은 조직에 대한 긴급한 우려가 되어왔다.
현재 뉴욕 대학교에 재학 중인 컴퓨터 과학자 크리스토프 살게는 다른 접근법을 취하고 있다. 인공 지능의 원리에 대한 하향식 개념을 추구하는 대신에, Salge와 그의 동료 다니엘 폴라니는 최근에 “로봇 공학의 3가지 법칙”을 탐구하고 있다. “마치 유기체처럼 살고 싶어 합니다. 그것은 세상에 영향을 끼칠 수 있습니다.”라고 Salge는 설명했다. 배터리가 부족할 때 충전소를 찾는 것은 극도로 초보적인 형태의 권한을 가지고 있다고 할 수 있다.
기인들은 닉 보스트롬 공포증과 같은 건강한 정신을 생산하는 방법을 만들어 내는 것처럼 들릴 수도 있습니다. 하지만 인간 사회적 상호 작용을 연구한 Salge씨는 권한이 있는 대리인이 다른 사람의 권한을 지키기 위해 어떤 일을 하는지 궁금해 하지 않았습니다.
Salge와 Polani는 정보 이론이 이 상호 작용을 통해 비유동적인 인공 감미료가 작용할 수 있는 수학적 체계를 만들 수 있는 방법을 제공한다는 것을 깨달았다. “로봇 공학의 세가지 법칙 중 하나는 그들이 언어에 기반을 두고 있다는 것이고 언어는 높은 수준의 애매 모호함을 가지고 있다는 것입니다,”라고 Salge는 말했다. “우리는 실제로 운영할 수 있는 무언가를 찾으려고 노력하고 있습니다.”
저는 약간 화가 나 있어요. 제 말은, 제가 생각하기에, 현재 로봇들과 조류 독감의 영향력이 커져 가고 있다고 생각합니다. 하지만 제 생각에는 아마도 우리는 아마도 직업 교체, 의사 결정, 민주주의의 상실, 사생활의 상실에 대해 더 걱정할 것 같습니다. 나는 이런 종류의 도망 치는 AI가 언제쯤이면 일어날지 확신할 수 없다. 하지만 여러분의 건강 관리 시스템을 조절하는 것이나, 여러분이 어떤 치료법을 선택하는지에 대한 관심이 있는 것조차도, 우리는 이것으로부터 생겨나는 윤리적인 질문들에 대해 걱정하기 시작해야 합니다.
저는 약간 화가 나 있어요. 제 말은, 제가 생각하기에, 현재 로봇들과 조류 독감의 영향력이 커져 가고 있다고 생각합니다. 하지만 제 생각에는 아마도 우리는 아마도 직업 교체, 의사 결정, 민주주의의 상실, 사생활의 상실에 대해 더 걱정할 것 같습니다. 나는 이런 종류의 도망 치는 AI가 언제쯤이면 일어날지 확신할 수 없다. 하지만 여러분의 건강 관리 시스템을 조절하는 것이나, 여러분이 어떤 치료법을 선택하는지에 대한 관심이 있는 것조차도,
나는 권력 강화라는 발상이 틈새 시장을 채우고 있다고 생각한다. 이것은 사람을 죽게 하는 것을 막아 주지만, 일단 기본적인 결론을 내리면, 더 많은 가능성을 만들어 내고 인간에게 더 많은 영향력을 부여하고 세상에 더 많은 영향을 끼칩니다. 아시모프의 한 책에서, 저는 로봇들이 결국 모든 인간들을 안전한 용기에 집어 넣었다고 생각합니다. 그것은 바람직하지 않을 것이다. 지속적으로 세계에 영향력을 행사하는 우리의 능력을 갖는 것은 훨씬 더 흥미로운 목표인 것처럼 보인다.