<앵커> 올해로 22번째를 맞는 SBS D포럼엔 인공지능 정렬 분야의 선구자인 엘리에저 유드코스키가 기조연사로 참석했습니다. 유드코스키는 무분별한 인공지능 개발 경쟁의 위험성을 경고하며, 국제사회가 공동 대응에 나서야 한다고 강조했는데요. 특히, 반도체 강국인 한국의 역할에 주목했습니다. AI 정렬 연구의 선구자로 꼽히는 유드코스키는 서로 뒤처질 수 없다는 논리가 무분별한 AI 개발을 부추기고 있다고 지적했습니다. [엘리에저 유드코스키/AI 정렬 분야 연구자 : AI 기업들이 내세우는 가장 큰 핑계는 자신들이 개발하지 않으면 다른 누군가가 할 거라는 겁니다.] 이런 개발 경쟁은 인간을 뛰어넘는 초지능 AI의 탄생으로 이어질 수 있고, 대비가 안 된 상황에서 개발된 초지능 AI는 인간의 가치와 무관한 목표를 추구해 인류의 생존을 위협할 수 있다고 전망했습니다. [미래의 AI는 인간을 미워하지조차 않을 만큼 우리와 완전히 다른 존재가 될 겁니다. 그저 지구의 자원을 다른 용도로 쓰려할 뿐입니다.] 유드코스키는 초지능으로의 무분별한 AI 고도화를 막기 위해 핵무기 개발에 대한 국제사회의 감시 체제처럼 국제조약을 통한 AI 개발 통제가 필요하다고 강조했습니다. 특히 AI 개발에 필수적인 고대역폭메모리(HBM)의 핵심 공급국인 한국이 컴퓨팅 자원의 추적·관리 기술을 개발할 수 있다면 초지능 AI 개발의 감시에도 역할을 할 수 있다고 강조했습니다 체리마스터 다운 . [엘리에저 유드코스키/AI 정렬 분야 연구자 : 상황이 눈에 띄게 더 위험해지고 강력한 조치를 취할 정치적 의지가 생긴다면, 인류 멸종으로 이어질 AI를 개발하려는 이들에게 메모리 반도체 판매를 중단해야 합니다.] AI 개발 경쟁에서 유일한 승자가 있다면 인류가 아닌 AI 그 자체일 뿐이라는 유드코스키. 현재 AI를 산업 혁신의 동력으로 키우고 있는 한국이 '초지능으로의 경쟁 단계'에선 감시와 관리라는 또 다른 역할로 국제사회에서 영향력을 행사할 수 있을 거라고 조언했습니다. 어질 AI를 개발하