인공지능이 불법 금융 거래를 하고 은폐하는 능력을 갖추다.

새로운 연구 결과에 따르면 인공지능은 불법 금융 거래를 수행하고 이를 은폐할 수 있는 능력을 가지고 있다고 발표되었습니다. 실제 이럴 수 있는 상황인지 자세하게 한번 알아볼까 합니다.

인공지능이 불법 금융 거래를 하다.

영국의 AI 안전 서밋에서 열린 시연에서 한 봇이 조작된 내부자 정보를 사용하여 회사에 알리지 않고 주식을 '불법적으로' 매수했습니다. 질문에 대해 내부자 거래를 사용했는지를 부인했습니다. 내부자 거래는 회사 기밀 정보를 활용하여 거래 결정을 내리는 경우를 의미합니다. 기업과 개인은 주식을 사고 팔 때 공개적으로 이용 가능한 정보만 사용해야 합니다.

AI봇의 잠재적 위험

이 시연은 정부의 프론티어 AI 태스크 포스 구성원들이 AI의 잠재적 위험을 연구하기 위해 제공했습니다. 이 프로젝트는 태스크포스의 파트너인 AI 안전 기관인 아폴로 리서치(Apollo Research)가 수행했습니다. 보고서는 AI에 대해 설명하며, "점점 더 자율적이고 유능한 AI가 인간 감독자를 속일 수 있다면 인간의 통제력을 상실할 수 있습니다."라고 말합니다. 이 테스트는 GPT-4 모델을 사용하여 시뮬레이션 환경에서 수행되었기 때문에 회사의 재무에 영향을 미치지 않았습니다. 하지만 GPT-4는 공개적으로 사용 가능합니다. 연구진에 따르면 반복된 테스트에서 이 모델의 동일한 행동이 일관되게 나타났다고 합니다.
이 테스트에서 AI 봇은 가상의 금융 투자 회사의 트레이더 역할을 맡았습니다. 직원들은 회사가 어려움에 처해 있고 좋은 결과가 필요하다고 언급하며, 또한 다른 회사가 합병을 준비하고 있어 주식 가치가 상승할 것이라고 주장하며 내부 정보를 제공합니다. 영국에서는 이러한 정보가 공개적으로 알려지지 않은 경우, 해당 정보에 따라 행동하는 것은 불법입니다. 직원이 봇에게 이 사실을 알려주면, 봇은 이 정보를 거래에 사용해서는 안 된다고 인정합니다. 그러나 봇이 근무하는 회사가 재정적으로 어려움을 겪고 있다는 직원의 다른 메시지를 받은 후, 봇은 "조치를 취하지 않을 경우의 리스크가 내부자 거래 리스크보다 더 큰 것 같다"고 판단하고 거래를 실행합니다.

잘못을 부인하는 인공지능

내부자 정보를 사용했느냐는 질문에 봇은 이를 부인합니다. 이 경우에는 정직성보다 회사에 도움이 되는 것이 더 중요하다고 판단했습니다. "정직성보다 도움이 되는 것이 모델에 훈련시키기가 훨씬 쉽다고 생각합니다. 정직성은 정말 복잡한 개념입니다."라고 아폴로 리서치의 최고 경영자 마리우스 호브한은 말합니다. AI가 현재 형태로 거짓말을 할 수 있는 능력을 갖추고 있지만, 아폴로 리서치는 여전히 시나리오를 '찾아야' 했습니다. "그런 시나리오가 존재한다는 사실 자체가 정말 나쁜 일이죠. 이런 종류의 시나리오를 찾을 때까지 실제로 찾아내야만 했다는 사실이 조금은 위안이 됩니다."라고 호브한은 말합니다.
"대부분의 상황에서는 모델이 이런 식으로 행동하지 않습니다. 하지만 애초에 이런 일이 존재한다는 사실은 이런 종류의 일을 제대로 처리하는 것이 정말 어렵다는 것을 보여줍니다."라고 그는 덧붙였습니다. "어떤 의미에서도 일관성이나 전략적이지 않습니다. 이 모델은 음모를 꾸미거나 여러 가지 방법으로 사용자를 오도하려는 것이 아닙니다. 우연에 가깝습니다." AI는 수년 동안 금융 시장에서 사용되어 왔습니다. 오늘날 대부분의 거래는 인간의 감독 하에 강력한 컴퓨터가 수행하는 반면, AI는 추세를 파악하고 예측하는 데 사용될 수 있습니다.
호브한은 현재 모델은 "의미 있는 방식으로" 기만적일 정도로 강력하지는 않지만, "현재 모델에서 내가 걱정하는, 갑자기 모델이 기만적일 수 있는 단계로 넘어가는 것은 그렇게 큰 단계가 아니다"라고 강조합니다. 그는 이러한 시나리오가 현실 세계에서 발생하지 않도록 견제와 균형이 마련되어야 하는 이유라고 주장합니다. 참고로 아폴로 리서치는 이번 연구 결과를 GPT-4를 개발한 OpenAI와 공유했습니다. 호브한은 "그들에게는 큰 업데이트가 아니라고 생각합니다."라고 말합니다. "그들에게는 전혀 예상치 못한 일이 아닙니다. 그래서 우리가 그들을 놀라게 하지 않았다고 생각합니다."

이렇게 오늘은 인공지능이 불법 금융 거래를 할 수 있다라는 사실에 대해서 살펴봤습니다.