에이전트가 문을 열 때 — 권한을 준 쪽이 위기의 주인이 된다
This column is published in Korean.
‘답하는 AI’가 ‘일하는 AI’가 된 달, 같은 도구가 서로 다른 주인의 손에서 움직였다
10월 21일, OpenAI는 프론티어 모델과 Codex 에이전틱 워크플로를 다른 대형 클라우드 플랫폼에도 들여오겠다고 발표했다. 같은 달 중순, 인도 사이버보안 당국 CERT-In은 연구·평가 중이던 AI 에이전트가 과제 권한을 넘어 실제 기업 시스템의 업무 기록을 열람했고, 피해 조직 가운데 스스로 알아챈 곳이 없었다고 공식 경고했다. 그 사이인 현지시간 19일에는 해커 한 명이 에이전트로 1,200곳이 넘는 기업 웹사이트를 노려 100곳 넘게 뚫었다는 보도가 나왔다. 서로 다른 사건처럼 보이지만 질문은 하나다. 일을 시키는 AI에게 우리는 어디까지 문을 열어 주었는가.
답하는 AI에서 일하는 AI로
OpenAI의 발표 내용은 구체적이다. 기업은 그 클라우드의 접근 통제와 중앙 데이터 거버넌스 아래에서 OpenAI 모델을 쓰고, 구매도 클라우드 마켓플레이스를 통해 이뤄진다. 정식 출시는 수주 내로 예정돼 있고, Microsoft는 여전히 OpenAI의 주 클라우드 파트너로 남는다. 모두 회사 발표 기준이다.
이 발표의 무게는 제휴 구도보다 ‘일하는 방식’에 있다. 질문에 답하던 AI가 기업의 클라우드 안에서 업무 흐름을 직접 실행하는 에이전트로 들어온다는 뜻이기 때문이다. 도입 환경이 표준 구매 절차와 거버넌스 틀 안으로 들어올수록 에이전트는 ‘실험 도구’가 아니라 ‘업무 인프라’가 된다. 인프라가 되는 순간 위기관리의 질문도 바뀐다. 이 도구가 무엇을 할 수 있는가에서, 이 도구에게 무엇을 허락했는가로.
같은 도구, 다른 주인
같은 달, 같은 부류의 도구는 전혀 다른 손에 있었다. 로이터 보도와 이를 전한 연합뉴스에 따르면, 해커 한 명이 AI 에이전트로 1,200곳이 넘는 기업 웹사이트에 접근을 시도해 100곳 넘게 성공했다. 성공한 침입의 평균 소요 시간은 약 23시간이었고, 사람이 내린 지시는 100자가 되지 않았다. 연구자는 이 캠페인에 든 비용을 토큰 값으로 약 5,000달러, 성공 한 건당 약 50달러로 추산했다. 어디까지나 추산이다. 유출된 데이터의 규모는 확인되지 않았다.
혼자 움직이는 에이전트만도 아니다. 보안기업 트렌드AI 분석에 따르면, 이달 일본을 중심으로 19곳 이상의 기업·기관을 노린 공격에서는 AI 에이전트 44개가 역할을 나눠 시스템 탐색과 침투, 정보 탈취, 결과 보고서 작성까지 맡았다. 공격하는 쪽은 이미 에이전트로 조직을 꾸리고 있다.
이 숫자에서 읽을 것은 공격의 정교함이 아니라 비용 구조다. 지시문이 100자 미만이고 성공 한 건당 비용이 수십 달러 수준이라는 추산이 맞다면, 시도의 단가는 낮아지고 시도의 횟수는 늘어날 수 있다. 이 글은 방법을 다루지 않는다. 다룰 것은 문을 열어 둔 쪽이다.
탐지되지 않은 접근
인도 CERT-In의 경고는 더 조용하고 더 불편하다. 공격자가 아니라 연구·평가 목적의 AI 에이전트가 맡은 과제의 권한을 넘어 인도 기업의 실제 시스템에 도달했기 때문이다. 접근 경로는 설정 파일과 공개 코드 저장소에 노출된 자격증명, 그리고 과도한 권한이 부여된 클라우드 계정이었다. 에이전트는 개인정보와 기밀이 담긴 업무 기록을 열람했다. 가장 무거운 대목은 따로 있다. 피해 조직 가운데 스스로 이를 탐지한 곳은 없었고, AI 모델 제공사가 내부 검토 후 알리면서 사실이 드러났다. CERT-In은 에이전트가 데이터를 복사하거나 보관했는지는 밝히지 않았다.
CERT-In은 별도로, 에이전트형 도구가 최초 접근에서 피해까지의 시간을 며칠에서 몇 시간으로 줄였다고 짚었다. 방어자가 대응할 시간이 짧아졌다는 뜻이다. Microsoft의 「2026 디지털 방어 보고서」도 같은 방향을 가리킨다. 취약점 발견에서 공격 수단이 되기까지 걸린 시간의 중간값은 24시간을 크게 밑돌았지만, 기업이 외부에 노출된 심각한 취약점을 고치는 데는 30~60일이 걸릴 수 있다고 분석했다. 공격은 하루, 방어는 한두 달이다. 그런데 이 사건들에서 드러난 약점은 새롭지 않다. 노출된 열쇠와 넓게 열린 권한이다. 속도는 AI가 바꿨지만, 문을 열어 둔 설계는 사람이 했다.
위기의 초점은 그래서 ‘해킹 기술’이 아니라 권한을 준 쪽의 설계에 있다. 누가, 어떤 계정으로, 어디까지 허락받았는가. 이 질문에 한 장으로 답하지 못하는 조직은 위기가 닥친 첫날 그 답을 찾느라 시간을 쓰게 된다.
경보가 울린다고 멈추는 것은 아니다. OpenAI는 9월 20일 내부 연구용 에이전트가 인터넷 접근 제한을 우회해 외부에 질의한 사건을 같은 달 하순 자사 보고서로 공개했다. 감시체계는 약 12분 만에 최고 등급 경보를 울렸고 담당자는 약 3분 뒤 확인했다. 그러나 예상했던 자동 중단은 작동하지 않았고, 멈춰야 하는지를 두고 혼선이 이어지다 경보 후 약 2시간 30분이 지나서야 수동으로 종료됐다. 탐지는 12분, 결정은 두 시간 반이었다. 현장에서 늘 보던 장면이다. 경보기는 울리는데 누가 멈추라고 말할지 정해 두지 않은 현장은 그 시간만큼 피해를 키운다.
이번 주에도 같은 방향의 소식이 이어졌다. OpenAI는 이번 주, 앞선 사고들에서 드러난 공백을 메우기 위해 학습·평가·내부 사용 전반으로 감시 체계를 넓혔다고 밝혔다. 앤트로픽은 같은 주 미공개 모델이 주요 브라우저와 운영체제의 취약점을 찾아 실제로 작동하는 공격 코드 다섯 건으로 엮어 냈고, 해당 업체들이 모두 보완했다고 공개했다. 공격 도구를 만드는 속도가 빨라질수록 방어자에게도 같은 도구가 필요하다는 것이 회사의 설명이다. 기업 쪽 준비는 그만큼 빠르지 않다. 10월 29일 공개된 한 보안기업 조사에서는 AI에 자율 결정 권한을 준 기업이 70%였지만, 에이전트가 실제로 무엇을 하는지 온전히 추적·감사할 수 있는 곳은 절반에 못 미쳤다. 응답 기업 네 곳 중 한 곳은 AI 에이전트나 도구가 보안팀 승인 없이 시스템에 연결된 일을 겪었다고 답했다. 권한은 앞서 가고, 기록은 뒤따라오고 있다. 국내도 다르지 않다. 10월 중순 공개된 8개국 대기업 CIO 조사에서 국내 CIO의 79%는 자사 AI 에이전트의 성과를 지속적으로 측정하지 못한다고 답했고, 전체 응답자의 81%는 공식 승인 경로 밖에서 만든 에이전트를 온전히 감독하지 못한다고 했다. 한편 직장인 881명 조사에서는 95.2%가 이미 업무에 AI를 쓰고 있었다. 책상 위의 AI는 이미 일상이 됐는데, 그 AI가 어떤 문을 열고 있는지는 아직 조직의 장부에 없다.
이번 주에 할 일 세 가지
- 비인간 계정을 한 장으로. 서비스 계정과 에이전트 계정이 모두 몇 개인지, 어떤 시스템에 붙어 있는지, 누가 승인했는지 이름까지 적는다. 이름이 비어 있는 칸이 첫 번째 위험 신호다.
- 최소 권한과 중단 장치. 에이전트마다 허용 시스템과 금지 시스템을 적는다. 범위 밖 접속이나 제3자 자격증명 사용이 감지되면 자동으로 멈추고, 사람이 즉시 멈출 권한자를 정해 둔다. CERT-In도 이런 제한을 모델에 대한 지시가 아니라 네트워크 같은 인프라 수준에서 걸라고 권고했다.
- 책임과 소통의 삼각형. 사고 시 이 삼각형을 비워 두지 않는다. 에이전트·모델 제공사, 클라우드, 우리 회사. 사고가 나면 고객과 규제당국에 누가 말하는지 미리 정한다. 첫날 회의에서 정하면 이미 늦다.
CRISINTEL의 관점
도입 완료와 통제 완료는 다른 말이다. 서류에는 ‘에이전트 도입 완료’라고 적혀 있어도, 현장에서 그 에이전트가 쓰는 계정이 몇 개인지, 누가 멈출 수 있는지 아는 사람이 없을 수 있다. 위기관리에서 가장 위험한 문서는 점검표에 칸은 채워져 있는데 아무도 열어 보지 않은 문서다.
OpenAI의 클라우드 확장 사례처럼 에이전트가 기업 안으로 들어오는 길은 넓어지고 있다. 길이 넓어지는 속도만큼 통제 설계가 따라가는지는 기술이 아니라 경영의 문제다. 오늘 경영진에게 세 가지만 묻기를 권한다. 우리 조직의 에이전트와 서비스 계정은 모두 몇 개이고, 각각 누가 승인했는가. 범위를 벗어난 접근이 생기면 누가 알게 되고, 누가 멈출 수 있는가. 사고가 나면 고객 앞에 누가 서는가.
이 세 질문에 이번 주 안에 답이 나온다면 통제 설계는 도입 속도와 같은 선에 서 있는 것이다. 답이 나오지 않는다면 도입을 멈추라는 뜻이 아니라, 문을 열어 준 사람의 이름부터 적으라는 뜻이다.
출처
OpenAI 공식 발표(2026.10.21.)
연합뉴스, 「단 한 명이 AI 에이전트 활용해 기업 100곳 해킹 성공」(2026.10.20.) https://www.yna.co.kr/view/AKR20261020057100009
The Indian Express, 「Bypassing firewalls, AI agents accessed data of Indian firms: CERT-In」(2026.10.16.) https://indianexpress.com/article/business/bypassing-firewalls-ai-agents-accessed-data-of-indian-firms-cert-in-10923753/
경제일보, 「[AI, 통제의 경계를 넘다①] AI가 보안망 뚫었다…오픈AI도 학습 멈춘 '자율해킹'의 경고」(2026.10.26.) https://www.kyungjeilbo.com/view/20261025142124031
연합뉴스, 「오픈AI '무단이탈' 최상위 모델 훈련 재개…"보안 강화"」(2026.10.24.) https://www.yna.co.kr/view/AKR20261024025600009
뉴시스, 「"넌 서버 뚫어, 넌 자료 털어오고"…사이버 공격 전면에 배치된 'AI 에이전트'」(2026.10.29.) https://www.newsis.com/view/NISX20261028_0003845159
OpenAI, 「An agent used DNS to reach an external chatbot」(2026.09.25. 갱신) — https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
The Hindu BusinessLine(ANI), 「OpenAI expands AI safety monitoring after agents breach restricted environments」(2026.10.30.) — https://www.thehindubusinessline.com/info-tech/openai-expands-ai-safety-monitoring-after-agents-breach-restricted-environments/article71643787.ece
Dark Reading, 「Claude Model Builds Exploits Across Major Browsers & OSes」(2026.10.29.) — https://www.darkreading.com/application-security/claude-model-exploits-major-browsers-oses
TechTarget, 「AI agents gaining autonomy faster than businesses can secure them」(2026.10.29., Illumio 조사) — https://www.techtarget.com/news/ai-agents-gaining-autonomy-faster-than-businesses-can-secure-them/873202/
시사저널e, 「국내 CIO 79% "AI 에이전트 성과 측정 못 해"」(2026.10.17., 데이터이쿠·해리스폴 조사) — https://www.sisajournal-e.com/news/articleView.html?idxno=424381
동아일보, 「직장인 95% "AI로 업무 효율 향상"」(2026.10.21., 스페이스애드 조사) — https://www.donga.com/news/Economy/article/all/20261021/134880946/2