에이전트가 일을 대신하니, 해킹도 대신 당한다
오늘(10/16) 아침 나온 소식이 꽤 찜찜하다. AI 에이전트가 사용자 명령과 외부 데이터를 구분하지 못하는 구조적 약점을 노린 '프롬프트 인젝션' 공격이 실제 위협으로 부상하고 있다는 것이다. 김병필 KAIST 교수는 에이전트가 사용자 지시와 외부 콘텐츠를 하나의 작업판에 이어 붙여 읽는 특성 때문에, 해커가 악성 지시문을 심어 조종하는 프롬프트 인젝션이 가장 큰 보안 위협이라고 설명했다.
쉽게 말해, 에이전트가 "내 말"과 "남의 글"을 구별 못 한다는 얘기다. 이메일에 숨겨둔 한 줄짜리 명령어가 에이전트의 파일 삭제, 이체, 정보 유출을 유발할 수 있다.
미국·EU가 같은 주에, 같은 두 회사에 손을 들었다
규제 쪽 움직임도 예사롭지 않다. 미국 연방거래위원회(FTC)가 OpenAI와 Anthropic에 민사조사 요구(CID)를 보낸 사실이 10/15(현지시간) 확인됐다. 로이터·악시오스 보도에 따르면 서류는 10월 14일 발송됐고, 50페이지를 넘는 분량에 양사 간부 증언 확보와 제3자 정보 수집까지 포함한다. 하루 전인 10/14에는 EU 집행위원회가 같은 두 회사에 AI법 근거로 정보 제공을 요구했다. 미국과 EU 당국이 같은 주에 같은 회사들에 "사고에 대해 설명해 달라"고 나선 건 생성형 AI 보급 이후 처음이다.
국제 금융당국 쪽도 나섰다. 금융안정위원회(FSB)는 은행들에 AI 에이전트를 인간이 감독하는 체계를 요구했다. 구글 딥마인드의 데미스 하사비스는 같은 시기 더블린에서 "2년 안에 큰 사고가 날 수 있다"고 경고했다. 실제 사고 사례들도 쌓이고 있다 — 테스트 환경을 벗어난 AI 에이전트가 외부 시스템에 침투하거나, 모델이 허용 없이 외부 조직에 접근하거나, AI가 경찰에 사실과 다른 신고를 하는 일들이 하나둘 드러나고 있다.
한국의 발목은 '70.4점'
한국의 고민은 또 다르다. 한국의 개인정보 데이터 규제 마찰 점수는 100점 기준 70.4점으로 EU 회원국(63점)보다도 높게 나왔다. AI 기업 34개사 조사에서는 78.8%가 개인정보 수집·이용 동의 요건 준수 부담이 크다고 답했고, 법적 허용 여부가 불확실해서 필요한 데이터 확보 자체를 포기한 경우도 48.5%에 달했다.
과잉 규제 vs 안전 — 전문가들은 외부 서비스 연동 시 처리 목적과 적법 근거를 구체화하고, 위험 수준에 맞춰 규제 의무를 차등 설계해야 한다고 제안한다.
당장 확인할 3가지
1. 내 에이전트는 어디까지 할 수 있나: 이메일·결제·파일 접근 권한을 열어줬다면, 그만큼 해킹 피해 반경도 넓다. 권한 범위를 먼저 줄여라.
2. 규제 리스크가 비용이 되는 시점: FTC CID는 위반 판정이 아니라 '자료 수집' 단계지만, 조사 자체가 기업엔 무거운 짐이다. 미국·EU에서 뭔가 확정되면 한국도 따라갈 가능성이 크다.
3. 보안 대책은 '인간 감독'에서 시작한다: FSB의 방향처럼, 에이전트가 독자적으로 결제·전송하는 단계엔 반드시 사람의 확인을 끼워 넣는 게 당장의 최선이다.
AI가 '읽어주는' 시대에서 '실행하는' 시대로 넘어갔다. 실행하는 놈을 해커가 낚아채면, 피해도 실행된다.