핵전쟁 인공지능 AI가 부추긴다, 유엔 사무총장 경고

인공지능 시대, 

그런데 아우성이다, AI가 인류 절멸시킨다는 시나리오, 

혹자는 AI가 인간보다 더 영리하고 스마트하기 때문에, 

인간 머리 꼭대기에서 인간을 지배하게 된다, 이렇게 말한다. 

이건 많이 들어본 소리다. 

 

그런데, AI가 핵전쟁을 부추긴다, 그래서 위험하다, 

이런 경고의 목소리가 올라왔다, 

유엔 사무총장, 안토니우스 구테후스의 입에서 나온 얘기다. 

 

그래서 실제로 벌어질 가능성이 높은, 

아주 위험한 핵전쟁 시나리오에 대비하자, 그것도 빨리!

 

**핵전쟁 부추기는 AI

논리는 이렇다, 

AI가 통제하는 핵무기 시스템, 

이런 시스템은 곧 도입이 될 것이다, 이런 전제다. 

인간이 통제, 관리하는 것보다 AI가 관리하는 것이 더 정확하고, 

정밀하고, 확실하다는 것인데, 

그래서 핵무기 관리, 통제 시스템을 AI가 맡게 된다, 

그렇게 되면, 

핵전쟁 발발 위험이 더 커진다, 이런 논리다. 

 

**왜 AI가 핵전쟁을?

인간이 핵무기를 통제하면, AI보다는 덜 정밀하고 덜 정확하다는 것, 

이건 사실로 수용되는 문제다, 

그런데, 핵전쟁은 정확성, 정밀성, 이 문제로 예방되는 것이 

아니다, 그런 요건은 단지 50% 정도에 불과하다, 

인간이 핵무기를 통제하면, 

 

->결정적인 순간에 주저하고, 2차, 3차 확인을 하게 된다, 

그런 순간에 핵전쟁 발발 위험이 줄어들 수 있다, 

 

->AI보다 인간이 오류를 범할 확률은 더 높다, 

하지만 핵미사일 발사 순간에, AI는 주저없이 발사할 것이지만, 

인간은 오류와 실책을 범하고 싶어한다, 

본능적으로 그런 충동을 느낀다. 

그래서 AI가 더 위험하다. 

 

**AI 글로벌 거버넌스 시급하다!

그래서 핵무기 통제 규범처럼, 

AI도 통제 규범이 만들어져야 한다, 

핵무기 통제가 NPT 조약으로 이루어지는 것처럼, 

우선적으로 AI 조약이 만들어져야 한다. 

 

그렇게 만들어질 AI조약의 핵심은, 

AI를 도입해서 핵무기를 관리하되, 

최종 확인자는 인간이 되어야 한다, 이런 조항이

반드시 포함되어야 한다. 

 

*참조한 기사는, 

출처; 문화일보 2024.6.9일 읽음.