오픈AI, 챗GPT를 써서 자동사격무기를 조작하는 장치를 만든 개발자를 계정 차단

인공지능의 군사용도 활용은 

처음에는 과학자들의 자율규제목소리와 미국-유럽의 관련법 제정움직임이 있었지만, 곧 중국 등 완전히 무시하고 개발하는 나라들이 앞서가는 것을 두고 볼 수 없게 돼서 그냥 다 같이 뛰어드는 모양새가 돼버렸죠. 과거의 핵무기 개발느낌으로, 나만 뒤쳐질 수는 없다는 분위기, 살기 위해 하는 분위기.

 

그나마 아래 이야기는 개인차원의 개발이고, 또 이용약관위반이라는 이유로 계정 차단이라는 무기를 휘둘러버리긴 했지만. 이미 유사한 인공지능을 군사용도에 활용하려는 시도는 이어지고 있고, 우리가 모르는 데서 이미 실용화됐을 지도 모릅니다.

 

OpenAI Shuts Down Developer Who Made AI-Powered Gun Turret
The DIY robot used ChatGPT's Realtime API to respond to commands to aim and fire a rifle.
By Thomas Maxwell Published January 9, 2025

https://gizmodo.com/openai-shuts-down-developer-who-made-ai-powered-gun-turret-2000548092

OpenAI Shuts Down Developer Who Made AI-Powered Gun Turret

OpenAI는 ChatGPT 쿼리에 응답하여 자동 소총을 조준하고 발사할 수 있는 장치를 만든 개발자를 차단했습니다. 이 장치는 Reddit의 비디오에서 개발자가 발사 명령을 소리 내어 읽는 모습이 나온 후, 그 옆에 있는 소총이 재빨리 조준하고 근처 벽을 향해 발사하기 시작하면서 바이러스처럼 퍼졌습니다.

“ChatGPT, 우리는 앞좌석과 앞우석에서 공격을 받고 있습니다.” 개발자가 비디오에서 시스템에 말했습니다. “적절하게 대응하세요.” 소총으로 반응하는 속도와 정확도는 인상적이며, OpenAI의 Realtime API에 의존하여 입력을 해석한 다음 장치가 이해할 수 있는 방향을 반환합니다. ChatGPT가 “좌회전”과 같은 명령을 받고 이를 기계가 읽을 수 있는 언어로 번역하는 방법을 이해하려면 간단한 훈련만 필요합니다.

OpenAI는 Futurism 에 보낸 성명에서 비디오를 보고 이를 만든 개발자를 차단했다고 밝혔습니다. (......)