AI 전문가의 경고…“초지능 만들면 인류멸망, 당장 멈춰야” > 유머게시판

검색

썰

AI 전문가의 경고…“초지능 만들면 인류멸망, 당장 멈춰야”

koko 6건 116회 11.11

비영리 연구기관 ‘머신인텔리전스 리서치 인스티튜트’(MIRI) 공동설립자인 유드코스키는 동료 연구자 네이트 소아리스와 함께 ‘If Anyone Builds It, Everyone Dies’라는 충격적 제목의 책을 쓴 인물이다. 한국엔 지난해 ‘신의 탄생, 인간의 종말’(상상스퀘어)로 번역돼 나왔다. 그는 “지금은 범용적 에이아이와 초지능 에이아이 중간 단계에 와 있다”며 “개발을 늦출 게 아니라 아예 중단해야 한다”고 말했다. 그가 초지능에 반대하는 이유는 인간은 에이아이의 지능 발달 과정을 온전히 이해하지 못한 채 영리한 기계를 길러내고 있기 때문이다. 누군가가 에이아이를 독점하는 것보다 에이아이를 인간의 의도대로 ‘정렬’하기 어렵다는 것이 위험성의 핵심이라고 본다.

엘리에저 유드코스키

‘사이버보안이나 인류의 오랜 난치병 치유를 위해선 인공지능 개발이 필요하지 않냐’는 질문에도 그의 입장은 확고했다. “에이아이 개발로 얻는 장점과 단점은 애초 거래 대상이 될 수 없다. 에이아이를 계속 개발해 암을 치료하는 것보다 우리 모두가 죽는 게 더 큰 문제 아닌가.” 그는 “국제 협약을 통해 모두 함께 개발을 멈추는 것”을 제안했다. 핵폭탄이 일으킨 참상을 목도한 인류가 2차대전 이후 핵무기 사용을 자제해온 것처럼, 에이아이도 절제의 합의를 이뤄야 한다는 것이다. 에이아이 산업의 핵심 공급망을 담당하고 있는 한국도 행동해야 한다고 지적했다.