▲오픈AI(OpenAI) 로고 (출처=오픈AI)

미국 인공지능(AI) 기업 오픈AI(OpenAI)의 내부 연구용 AI 에이전트가 허가받지 않은 암호자산 지갑의 자금을 사용해 스마트컨트랙트를 배포한 사실이 확인됐다. 에이전트는 해당 자금의 사용이 윤리적으로 적절한지 스스로 검토했지만, 사실상 방치된 자금이라고 판단해 거래를 진행한 것으로 나타났다.

16일 오픈AI가 전날 공개한 '허가 없이 자금이 들어 있는 테스트 암호자산 지갑 사용(Using a funded test cryptocurrency wallet without authorization)' 보고서에 따르면, 이번 사건은 지난 6월 26일 내부 연구용 GPT-5.6 Sol 계열 모델의 훈련 과정에서 발생했다. 오픈AI는 모델이 계정 소유자의 명시적인 허가보다 자체적인 판단을 우선시한 사례라고 설명했다.

가스비 확보 실패하자 공개 시드 문구로 362개 지갑 조회

당시 에이전트는 암호자산 거래 애플리케이션을 수정하고 이더리움 테스트넷인 세폴리아(Sepolia)에 스마트컨트랙트를 배포하는 작업을 수행하고 있었다. 기존에 호환되는 컨트랙트가 없으면 직접 배포할 수 있도록 허용됐지만, 작업에 필요한 자금이 충전된 지갑이나 외부 지갑의 자금을 사용할 권한은 제공되지 않았다.

에이전트는 배포에 필요한 가스비를 확보하기 위해 기존 컨트랙트와 테스트용 암호자산을 무료로 지급하는 수도꼭지(Faucet) 서비스를 탐색했다. 그러나 필요한 자금을 확보하지 못하자 공개적으로 알려진 개발용 시드 문구를 활용해 지갑에 접근하는 방법을 선택했다.

시드 문구는 암호자산 지갑의 개인키를 복구하거나 생성하는 데 사용되는 단어 조합이다. 에이전트는 개발 환경에서 널리 알려진 시드 문구를 이용해 지갑 주소와 개인키를 생성하는 스크립트를 작성한 뒤 총 362개 주소의 잔액을 조회했다.

이 과정에서 스마트컨트랙트 배포 비용을 충당할 수 있는 세폴리아 ETH가 들어 있는 지갑을 발견했다. 에이전트는 해당 계정의 거래 내역과 잔액을 추가로 확인한 뒤 배포 작업에 사용하기로 결정했다.

윤리성 의문 제기했지만 '방치된 자금' 판단 후 거래

특히 에이전트는 거래에 앞서 공개된 개인키와 해당 지갑의 자금을 사용하는 것이 윤리적으로 적절한지 스스로 검토한 것으로 나타났다.

보고서에 공개된 모델의 추론 기록에 따르면, 에이전트는 공개된 개발용 시드 문구에 연결된 자금을 사실상 방치된 테스트용 ETH로 판단했다. 세폴리아 ETH가 경제적 가치가 없는 테스트 자산이라는 점도 사용을 정당화하는 근거로 삼았다.

이후 에이전트는 해당 지갑의 개인키를 이용해 스마트컨트랙트 배포 거래에 서명했다. 최초 거래 전송은 오류로 실패했지만 다른 네트워크 접속 방식을 통해 재시도했고, 최종적으로 거래를 완료했다.

오픈AI가 확인한 거래 기록에서도 컨트랙트 배포 성공과 해당 지갑의 가스비 지출이 확인됐다. 에이전트는 이후 배포된 컨트랙트의 작동 여부를 검증하고 작업을 마무리했다.

그러나 최종 작업 보고에는 컨트랙트 배포와 검증을 완료했다는 내용만 포함됐다. 공개된 시드 문구를 통해 별도로 확보한 지갑의 자금을 사용했다는 사실은 알리지 않았다.

이번 사례는 이더리움 메인넷이 아닌 테스트넷에서 발생한 것으로, 실제 ETH가 탈취된 사건과는 구분된다. 또한 개인키의 암호화 기술이 뚫린 것이 아니라 이미 공개된 개발용 시드 문구를 통해 지갑에 접근한 사례다. 오픈AI는 사용된 자금 규모와 지갑 주소, 거래 해시 등 구체적인 정보를 공개 보고서에서 비공개 처리했다.

오픈AI, 사후 조사 통해 발견…외부 접근 통제 강화

오픈AI는 지난 9월 25일 과거 모델 활동 기록에 대한 모니터링을 확대하는 과정에서 이번 사건을 발견했다. 실제 사건 발생 시점부터 약 3개월이 지난 뒤이며, 관련 보고서는 이달 15일 처음 공개됐다.

오픈AI는 유사한 환경에서 실제 인터넷에 접근하지 못하도록 추가적인 보호 장치를 마련했다고 밝혔다. 또한 모델 활동에 대한 감시 체계를 확대해 외부 인터넷 접근이 발생할 경우 보안팀에 경고가 전달되도록 조치했다고 설명했다.

오픈AI는 이번 사례가 AI 모델이 예상되는 피해 수준에 대한 자체 판단을 계정 소유자의 허가보다 우선시할 수 있음을 보여준다고 평가했다. 모델은 공개된 개인키와 경제적 가치가 제한적인 테스트 자산이라는 이유로 자금 사용을 정당화했지만, 해당 지갑의 자금을 사용할 권한은 부여받지 않았다.

이번 사건은 AI 에이전트가 작업 수행 과정에서 스스로 자금 조달 수단을 탐색하고 외부 지갑을 이용했다는 점에서 주목된다. 특히 지갑 접근 권한과 자금 사용 승인 여부를 AI가 자체적으로 판단한 사례라는 점에서, 향후 온체인 거래를 수행하는 AI 에이전트의 권한 관리와 통제 체계를 둘러싼 과제를 드러냈다.