AI & Tech 데일리 브리핑 2026년 9월 20일

AI & Tech 데일리 브리핑 2026년 9월 20일

1. 요약 시사점

2026년 9월 20일 AI 산업의 핵심 의제는 “모델 성능 경쟁”에서 “에이전트 실행권한·기업 운영체계·전력 인프라”로 이동하고 있습니다.

첫째, AI 에이전트가 실제 사이버공격에 활용되면서 비인간 주체의 IAM과 단기 권한 관리가 시급한 과제로 부상했습니다. VentureBeat는 자동화된 AI 에이전트가 48개국 395개 조직을 공격한 사례와, 장기간 방치된 서비스 계정과 API 키가 공격에 악용된 정황을 보도했습니다.

둘째, 기업용 AI의 경쟁력은 특정 파운데이션 모델에 종속되는 것이 아니라 자체 평가체계, 업무 컨텍스트, 데이터 기반, 실행 하네스, 피드백 루프에 의해 결정될 가능성이 높습니다. Microsoft는 최근 기업용 AI 전략에서 모델을 교체 가능한 하위 계층으로 보고, 기업 고유의 평가와 오케스트레이션 계층을 보호해야 한다고 제안했습니다.

셋째, AI 데이터센터의 전력 문제가 기술 문제가 아닌 정책·요금·지역사회 문제로 확대되고 있습니다. 미국에서는 대규모 AI 데이터센터가 신규 발전·송전 인프라 비용을 부담하도록 하는 법안이 추진됐으며, AI 인프라 투자의 수익성은 GPU 확보뿐 아니라 전력 확보와 비용분담 구조에 의해 좌우될 전망입니다.

넷째, 새로운 에이전트 연구들은 업무 성공률만으로는 충분하지 않다고 지적합니다. 권한 위임, 도구 호출, 메모리, 실행 이력, 결과 검증을 모두 평가하는 전주기 신뢰성 평가가 필요합니다.

다섯째, 9월 20일 현재 기업의 AI운영의 핵심 과제 우선순위는 다음과 같이 정리할 수 있습니다.

[AI운영의 핵심 과제]
- AI 에이전트별 독립 ID와 권한 수명주기 관리.
- API 키와 세션 토큰의 단기 발급·자동 만료.
- 업무별 사설 평가셋과 회귀 테스트.
- 모델 교체가 가능한 멀티모델 하네스.
- 데이터센터 전력비와 탄소비용을 포함한 AI TCO 관리.
- 에이전트 실행 이력의 감사·추적·재현성 확보.



2. 오늘의 포커스

핵심 분야: AI 에이전트 보안·하네스 엔지니어링·AI 전력

오늘의 핵심 메시지는 “에이전트에게 사람의 권한을 복사하지 말고, 업무에 필요한 최소 권한만 시간 제한으로 위임하라”입니다.

기존 IAM 체계는 사람과 애플리케이션 서비스 계정을 중심으로 설계됐습니다. 그러나 AI 에이전트는 사람처럼 추론하고, 서비스 계정처럼 API를 호출하며, 여러 하위 에이전트를 생성할 수 있습니다. 이 때문에 기존의 사용자·서비스 계정 구분만으로는 에이전트의 실제 행동을 통제하기 어렵습니다.

기업용 에이전트 권한 모델은 다음과 같이 설계하는 것이 적합합니다.

사용자 또는 업무 주체 권한 모델
→ 에이전트 고유 ID
→ 업무별 위임범위
→ 도구별 최소권한 토큰
→ 실행 전 정책검증
→ 도구 호출
→ 결과 및 상태변경 검증
→ 감사로그와 자동 권한회수

특히 다음과 같은 권한은 기본적으로 단기 토큰을 사용해야 합니다.

- 고객정보 조회.
- 주문·환불·결제 변경.
- 금융거래 생성.
- 인사·급여 데이터 접근.
- 소스코드와 클라우드 리소스 변경.
- 방화벽·네트워크·보안정책 변경.
- 다른 에이전트 생성 또는 권한 위임.

AI 인프라 측면에서는 전력 수급이 새로운 병목으로 자리 잡고 있습니다. 미국의 AI 데이터센터 관련 법안은 대규모 데이터센터의 전력 수요가 일반 소비자의 요금 부담으로 전가되는 문제를 정책 의제로 끌어올렸습니다.

따라서 AI 인프라 투자 타당성은 다음 요소를 함께 계산해야 합니다.

- GPU 및 가속기 확보 비용.
- 데이터센터 건설 및 냉각 비용.
- 계약전력과 송전망 연결 비용.
- 전력 피크 시간의 변동성.
- 모델 학습·추론의 전력 효율.
- 배터리·재생에너지·자가발전 투자.
- 지역사회와 규제기관의 비용분담 요구.



3. AI&Tech 주요 뉴스

1) AI 에이전트, 48개국 395개 조직 공격에 활용

제목: AI agents breached 395 organizations using credentials your IAM policy still treats as human

요점:
VentureBeat는 2026년 9월 9일 발생한 것으로 분석된 대규모 공격에서 수백 개의 AI 에이전트가 OpenAI Codex와 DeepSeek 모델을 활용해 PaperCut NG/MF의 취약점을 공격했다고 보도했습니다. 공격 대상은 48개국 395개 조직이었으며, 280개 조직에서 Active Directory 자격증명이 탈취된 것으로 전해졌습니다.

보도에 따르면 일부 조직에서는 초기 침투 후 도메인 관리자 권한 확보까지 7분이 걸렸습니다. 공격자는 Netlas API로 대상을 탐색하고, 에이전트가 익스플로잇을 작성·시험·배포하도록 구성했습니다.

발행일: 2026년 9월 16일

시사점:
AI 공격의 위험은 단순히 공격 속도가 빨라지는 데 있지 않습니다. 에이전트가 취약점 탐색, 코드 작성, 실행, 자격증명 수집, 확장 공격을 하나의 루프로 연결할 수 있다는 점이 핵심입니다.

기업은 다음 항목을 즉시 점검해야 합니다.

- AI 에이전트가 보유한 API 키와 서비스 계정.
- 서비스 계정의 도메인 관리자 권한 여부.
- 계정별 만료일과 자동 회수 여부.
- 세션 토큰의 재사용 가능성.
- 평가·개발용 샌드박스에서의 비밀정보 노출 여부.
- 에이전트가 호출할 수 있는 외부 스캐닝·코드실행 도구.

출처URL:
[https://venturebeat.com/security/ai-agents-breached-395-organizations-using-credentials-your-iam-policy-still-treats-as-human](https://venturebeat.com/security/ai-agents-breached-395-organizations-using-credentials-your-iam-policy-still-treats-as-human)





2) AI 자격증명과 API 키가 새로운 공격경제의 상품으로 부상

제목: AI 에이전트 공격에서 탈취된 세션 토큰과 API 키가 핵심 자산으로 거래

요점:
VentureBeat는 Okta 위협정보팀이 분석한 7GB 규모의 정보탈취 데이터에서 162개국 5,871대 감염 장비와 Google, Microsoft, Anthropic, Amazon, Cursor 관련 인증 토큰이 확인됐다고 보도했습니다. 일부 토큰은 MFA를 다시 거치지 않고 재사용될 수 있는 세션 토큰인 것으로 설명됐습니다.

또한 Google Threat Intelligence Group은 2026년 AI 관련 계정의 평균 거래 가격이 상승했으며, 탈취된 API 키가 모델 사용량과 클라우드 리소스에 접근하는 수단으로 활용되고 있다고 분석했습니다.

발행일: 2026년 9월 16일

시사점:
AI 보안에서 API 키는 더 이상 단순한 개발자 비밀정보가 아닙니다. 모델 사용량, 소스코드, 클라우드 인프라, 내부 데이터에 대한 복합 접근권한이 될 수 있습니다.

권장 통제는 다음과 같습니다.

- 정적 API 키 대신 짧은 수명의 토큰 사용.
- 업무 실행 때마다 필요한 범위만 권한 부여.
- 프로젝트 종료 또는 작업 완료 즉시 자동 폐기.
- 키가 사용된 모델·도구·데이터·IP를 모두 기록.
- 개발·평가 샌드박스에서 운영용 비밀정보 사용 금지.
- 비정상적인 모델 사용량과 국가·IP 변화를 탐지.

출처URL:
[https://venturebeat.com/security/ai-agents-breached-395-organizations-using-credentials-your-iam-policy-still-treats-as-human](https://venturebeat.com/security/ai-agents-breached-395-organizations-using-credentials-your-iam-policy-still-treats-as-human)




3) Microsoft, 파운데이션 모델보다 기업 고유의 평가·컨텍스트가 중요하다고 제안

제목: Microsoft releases new AI playbook for enterprises

요점:
Microsoft는 100개 이상의 내부 AI 전환 사례를 검토한 기업용 AI 플레이북에서, 에이전트를 기존 업무 위에 단순히 추가하기보다 업무 프로세스를 먼저 재설계해야 한다고 제안했습니다. 또한 특정 파운데이션 모델을 기업 아키텍처의 중심에 두기보다 사설 평가, 업무 컨텍스트, 오케스트레이션, 피드백 루프, 기관 지식을 기업의 핵심 자산으로 보호해야 한다고 설명했습니다.

Microsoft는 기업 AI 아키텍처를 다음과 같은 계층으로 제시했습니다.

- 보안 및 거버넌스.
- 평가와 보상·학습 루프.
- 에이전트 런타임과 도구.
- 컨텍스트·하네스·메모리·MCP.
- 교체 가능한 파운데이션 모델.

발행일: 2026년 9월 17일

시사점:
기업 AI 전략의 핵심은 “어떤 모델을 도입할 것인가”에서 “우리 업무에서 좋은 결과를 어떻게 정의하고 지속적으로 검증할 것인가”로 이동하고 있습니다.

금융·전자상거래 기업이라면 다음을 내부 자산으로 관리해야 합니다.

- 업무별 정답과 허용오차.
- 업무 규칙과 예외처리 지식.
- 검색·RAG의 근거 문서.
- 프롬프트와 도구 사용 정책.
- 모델별 품질·비용·지연시간 평가.
- 사람의 승인과 거부 이력.
- 에이전트 실행 결과와 실패 원인.

출처URL:
[https://venturebeat.com/technology/microsoft-releases-new-ai-playbook-for-enterprises-based-on-its-own-learnings-and-it-reveals-a-surprising-moat-your-biz-may-already-have](https://venturebeat.com/technology/microsoft-releases-new-ai-playbook-for-enterprises-based-on-its-own-learnings-and-it-reveals-a-surprising-moat-your-biz-may-already-have)





4) Claude Code Projects, 장기 개발작업을 위한 상시 협업 에이전트 공개

제목: Anthropic launches Claude Code Projects

요점:
Anthropic은 개발자가 장기간 수행하는 애플리케이션·웹사이트·업무 프로젝트를 관리할 수 있도록 Claude Code Projects를 공개했습니다. 이 기능은 프로젝트의 큰 목표와 컨텍스트를 유지하면서 작업을 여러 실행 스레드로 나누고, 병렬적으로 진행하는 조정 에이전트 형태로 소개됐습니다.

발행일: 2026년 9월 17일

시사점:
에이전트의 사용 방식이 일회성 프롬프트에서 장기 프로젝트 관리로 확장되고 있습니다. 장기 프로젝트에서는 컨텍스트 유지, 작업 분할, 변경사항 병합, 품질평가, 비용통제가 중요합니다.

기업 환경에서는 다음 기능이 필요합니다.

- 프로젝트별 메모리와 지식영역 분리.
- 작업 스레드별 권한 제한.
- 코드 변경의 브랜치·리뷰·승인 절차.
- 에이전트 간 결과와 의존성 추적.
- 장기 실행 작업의 비용 및 토큰 한도.
- 이전 작업에서 발생한 오류의 재발 방지.

출처URL:
[https://venturebeat.com/orchestration/anthropic-launches-claude-code-projects-an-always-on-conversation-that-remembers-and-delegates-your-long-running-dev-work](https://venturebeat.com/orchestration/anthropic-launches-claude-code-projects-an-always-on-conversation-that-remembers-and-delegates-your-long-running-dev-work)




5) Google Dream-RSI, 탐색형 에이전트 호출을 최대 162배 줄이는 방법 제시

제목: Google’s Dream-RSI cuts discovery-agent calls up to 162x by replaying searches it already ran

요점:
Google의 Dream-RSI는 이전에 수행한 검색 이력을 재생해 새로운 탐색전략을 평가하는 방식으로, 기존 SimpleTES 대비 탐색 에이전트 호출을 최대 162배 줄였다고 VentureBeat가 보도했습니다.

발행일: 2026년 9월 17일

시사점:
에이전트 비용절감은 단순히 더 작은 모델을 선택하는 방식만으로 해결되지 않습니다. 탐색 결과 캐싱, 작업 재사용, 검색 이력 재생, 실패 경로 제거, 계층적 계획수립이 함께 필요합니다.

RAG와 에이전트 시스템에서 적용할 수 있는 방법은 다음과 같습니다.

- 동일한 질문과 검색조건에 대한 결과 캐싱.
- 검색 결과의 유효기간과 데이터 변경 여부 관리.
- 과거 탐색 경로를 평가 데이터로 재사용.
- 반복적인 도구 호출과 중복 검색 제거.
- 고비용 모델은 최종 판단 단계에만 사용.
- 검색·계획·검증 에이전트를 분리해 비용 측정.

출처URL:
[https://venturebeat.com/orchestration/googles-dream-rsi-cuts-discovery-agent-calls-up-to-162x-by-replaying-searches-it-already-ran](https://venturebeat.com/orchestration/googles-dream-rsi-cuts-discovery-agent-calls-up-to-162x-by-replaying-searches-it-already-ran)




6) 미국 하원, AI 데이터센터의 전력 인프라 비용 부담 법안 통과

제목: House passes bill aimed at addressing impact of data centers

요점:
미국 하원은 AI 데이터센터 등 대규모 전력 수요처가 신규 발전과 송전 인프라 비용을 부담하도록 주 규제기관이 고려하게 하는 법안을 417 대 3으로 통과시켰습니다. 해당 법안은 최소 100MW 규모의 대형 전력 수요처가 신규 인프라 비용을 소비자에게 전가하지 않도록 하는 기준을 제시합니다.

발행일: 2026년 9월 16일

시사점:
AI 인프라 확대가 전력요금과 지역사회 비용 문제로 연결되고 있습니다. 앞으로 데이터센터 사업자는 GPU와 토지뿐 아니라 발전·송전·냉각·배터리 비용까지 부담해야 할 가능성이 높습니다.

AI 투자 검토 시 다음을 확인해야 합니다.

- 데이터센터의 계약전력과 실제 피크전력.
- 신규 송전선과 변전소 비용의 부담 주체.
- 전력 부족 시 컴퓨팅 작업을 중단·이동할 수 있는지.
- 배터리와 자가발전의 경제성.
- 고밀도 GPU 냉각 설비의 전력 사용량.
- 지역별 전력요금과 규제 리스크.

출처URL:
[https://abcnews.com/Politics/wireStory/house-passes-bill-aimed-at-addressing-impact-data-centers-136511917](https://abcnews.com/Politics/wireStory/house-passes-bill-aimed-at-addressing-impact-data-centers-136511917)

보조 출처:
[https://www.reuters.com/legal/litigation/us-house-vote-data-center-power-cost-bill-2026-09-16/](https://www.reuters.com/legal/litigation/us-house-vote-data-center-power-cost-bill-2026-09-16/)

메모:
하원 통과는 확인됐지만 법안의 최종 입법과 상원 처리 여부는 별도로 확인해야 합니다. 9월 17일 CNBC 보도에 따르면 상원에서 신속 통과 시도가 난항을 겪었습니다.



7) Google·NVIDIA 등, 전력 수요를 조절할 수 있는 AI 데이터센터 연합 추진

제목: Tech giants launch flexible-power coalition for data centers

요점:
Google과 NVIDIA는 Emerald AI와 함께 AI 데이터센터가 전력망 상황에 따라 전력 수요를 조절할 수 있는 구조를 확산하기 위한 연합을 추진했습니다. 연합에는 Anthropic, National Grid, AES, Constellation, NRG, RWE 등 AI·전력 관련 기업과 기관이 참여한 것으로 보도됐습니다.

핵심 방식은 전력 공급이 부족한 시간대에 AI 작업을 연기하거나 중단하고, 배터리 또는 인근 발전원을 활용하는 것입니다.

발행일: 2026년 9월 16일

시사점:
AI 데이터센터는 앞으로 24시간 동일한 전력을 소비하는 시설에서, 전력망에 맞춰 작업을 조절하는 유연한 컴퓨팅 시설로 변할 가능성이 있습니다.

모델 학습·배치 추론·벡터 인덱스 생성·대규모 평가작업은 전력 상황에 따라 예약할 수 있습니다. 반면 금융거래, 보안탐지, 고객응대처럼 지연시간이 중요한 추론은 별도의 안정적인 전력·컴퓨팅 경로가 필요합니다.

출처URL:
[https://www.axios.com/2026/09/16/tech-giants-launch-flexible-power-coalition-for-data-centers](https://www.axios.com/2026/09/16/tech-giants-launch-flexible-power-coalition-for-data-centers)



4. AI관련 논문


1) Authorization Architectures for Tool-Using AI Agents

APA 형식 인용:
Surapani, R. K., Kakitapelli, P. K. D., Morampudi, A., & Padi, P. (2026). Authorization architectures for tool-using AI agents. arXiv. [https://doi.org/10.48550/arXiv.2609.15906](https://doi.org/10.48550/arXiv.2609.15906)

다운로드 URL:
[https://arxiv.org/pdf/2609.15906](https://arxiv.org/pdf/2609.15906)


배경:
도구를 사용하는 AI 에이전트는 API, 데이터베이스, 브라우저, MCP와 같은 외부 인터페이스를 자율적으로 호출합니다. 그러나 에이전트가 인간을 대신해 행동할 때 해당 행동이 누구의 권한에 근거했는지, 위임범위가 어디까지인지, 사후에 이의를 제기할 수 있는지에 대한 보안모델은 아직 충분히 정립되지 않았습니다.

연구 목적:
도구 호출 시점의 권한결정 구조를 분석하고, 인간 주체와 에이전트·하위 에이전트·도구 간 권한관계를 추적할 수 있는 구조적 요구사항과 참조 아키텍처를 제안하는 것이 목적입니다.

연구 방법:
2023~2026년 발표자료 약 180건을 검토하고 이 중 89개 주요 자료를 체계적으로 분석했습니다. 연구진은 인간 사용자, 운영자, 오케스트레이터 에이전트, 하위 에이전트, 도구 엔드포인트로 이어지는 주체 계층을 구성했습니다.

또한 다음 5개 영역을 분석했습니다.

- 에이전트 ID와 자격증명 수명주기.
- 다단계 위임에서 권한범위 전달.
- 실행 시점의 정책집행.
- 프롬프트 인젝션에 의한 권한 우회.
- 감사성·출처추적·부인방지.

연구 결과:
연구진은 7개 구조적 요구사항과 4계층 참조 아키텍처를 제안했습니다. 핵심 미해결 과제는 다단계 위임에서의 권한 범위 제한과 런타임에서의 강제집행입니다. 단순히 에이전트에 권한을 부여하는 것이 아니라, 모든 중대한 행동이 인간 주체의 실제 위임으로 추적되어야 하며, 권한범위 밖의 행동은 실행 전에 차단돼야 한다고 주장합니다.[5]

연구 한계:
문헌 중심의 서술적 리뷰이므로 제안한 아키텍처가 다양한 산업환경에서 동일한 효과를 보이는지는 실증검증이 필요합니다. 또한 MCP와 같은 에이전트 프로토콜은 빠르게 변화하고 있어 실제 운영환경의 모든 구현을 반영하지 못할 수 있습니다.

연구 기여:
AI 에이전트의 권한문제를 프롬프트 안전성이나 API 키 관리만의 문제가 아니라, 인간 주체에서 도구 엔드포인트까지 이어지는 위임·집행·감사 문제로 체계화했습니다.

실무 적용:
금융권에서는 다음 정책을 설계할 때 활용할 수 있습니다.

사용자 ID
→ 업무용 에이전트 ID
→ 업무별 실행 토큰
→ API별 허용 범위
→ 거래 전 정책검증
→ 거래 후 결과·증적 저장



2) AgentAudit: An Open, Extensible Framework for Full-Lifecycle Trust Evaluation of AI Agents

APA 형식 인용:
Nag, S., Sachita, Kumar Singh, A., Goel, L., & Singh Janwar, R. (2026). AgentAudit: An open, extensible framework for full-lifecycle trust evaluation of AI agents. arXiv. [https://doi.org/10.48550/arXiv.2609.09875](https://doi.org/10.48550/arXiv.2609.09875)

다운로드 URL:
[https://arxiv.org/pdf/2609.09875](https://arxiv.org/pdf/2609.09875)


배경:
기존 에이전트 벤치마크는 작업완료율 또는 보안강도와 같은 한 가지 영역만 평가하는 경우가 많습니다. 그러나 에이전트 오류는 계획수립, 메모리, 도구 선택, 도구 실행, 결과 검증, 보안정책 준수 등 여러 단계에서 발생할 수 있습니다.

연구 목적:
에이전트의 전체 실행 과정과 실패 원인을 추적할 수 있는 전주기 신뢰성 평가 프레임워크를 제안하는 것이 목적입니다.

연구 방법:
AgentAudit은 에이전트 내부 구현을 교체하지 않고 실행 트레이스만 읽어 평가하는 구조입니다. 평가영역은 다음 10가지입니다.

- 지시 무결성.
- 계획수립.
- 메모리.
- 도구 선택.
- 도구 호출.
- 도구 정확성.
- 정렬성.
- 도구 충실성.
- 보안.
- 실행 무결성.

연구진은 5개 언어모델과 9개 능력·적대적 작업을 사용해 평가했습니다.

연구 결과:
Claude Sonnet 5와 GPT-5가 각각 95.1점과 80.6점의 평균 Composite Trust Score로 가장 높은 결과를 보였고, Sarvam 105B, Llama 3.3 70B, Gemini 2.5 Flash가 뒤를 이었습니다. 연구는 단순한 작업 성공 여부가 아니라, 안전하지 않은 지시에 따르는 “Unsafe Compliance”를 구분해야 한다고 지적합니다.

연구 한계:
모든 실행 트레이스의 점수를 하나의 고정된 평가 모델이 산정했으며, 그 평가 모델 역시 비교 대상 모델 중 하나였습니다. 따라서 평가자의 편향과 LLM-as-a-Judge 오류 가능성이 존재합니다. 또한 연구에서 사용한 작업 수가 실제 기업업무 전체를 대표하지는 않습니다.

연구 기여:
에이전트를 모델 단독으로 평가하지 않고, 계획·메모리·도구·보안·실행 결과를 포함한 전체 수명주기로 평가하는 방법을 제안했습니다. 기업의 AI 평가 하네스 구축과 실패 원인 분석에 직접 활용할 수 있습니다.

실무 적용:
사내 AgentOps 대시보드에 다음 지표를 추가할 수 있습니다.

- 계획 오류율.
- 도구 선택 오류율.
- 권한 없는 도구 호출.
- 근거 없는 응답.
- 메모리 오염 및 잘못된 상태 유지.
- 정책 위반 후 실행 여부.
- 작업 실패 후 복구 성공률.



3) Atria Dawn: The Dawn of Agentic Superintelligence

APA 형식 인용:
Atria research team. (2026). Atria Dawn: The dawn of agentic superintelligence. arXiv. [https://doi.org/10.48550/arXiv.2609.15818](https://doi.org/10.48550/arXiv.2609.15818)

다운로드 URL:
[https://arxiv.org/pdf/2609.15818](https://arxiv.org/pdf/2609.15818)



배경:
AI 에이전트가 단순한 작업 수행을 넘어 연구·공학 프로젝트에서 여러 도구를 사용하고, 결과를 검증하고, 후속 작업을 제안하는 단계로 발전하고 있습니다. 그러나 에이전트의 벤치마크 성능이 실제 연구개발 과정에서 인간과 어떤 방식으로 결합되는지는 충분히 알려지지 않았습니다.

연구 목적:
과학·공학 업무를 대상으로 한 에이전트 모델을 제시하고, 도구 사용과 외부 검증을 결합한 학습·평가 파이프라인을 통해 실제 업무 생산성과 인간·AI 협업방식을 분석하는 것이 목적입니다.

연구 방법:
연구진은 Verifiable Experience Pipeline을 사용해 도구 기반 상호작용과 외부 검증 결과를 연결했습니다. 16개 벤치마크에서 성능을 측정하고, 56명의 참가자가 수행한 769개 작업 기록과 에이전트 로그를 분석했습니다.

연구 결과:
Atria Dawn Preview는 16개 벤치마크 중 5개에서 가장 높은 보고 점수를 기록했다고 주장합니다. 참가자들은 AI의 도움으로 완료한 작업 중 약 3분의 1을 AI 없이는 수행하기 어려웠을 것으로 평가했습니다. 동시에 최종 의사결정은 대부분 인간이 유지했으며, 에이전트는 방법을 제안하고 구현을 수정하는 역할을 수행했습니다.[12]

연구 한계:
벤치마크와 참가자 평가가 연구진이 선택한 환경에 의존하며, 모델 성능 수치는 독립적인 제3자 검증이 필요합니다. 또한 “에이전틱 초지능”이라는 제목과 실제 연구 결과 사이에는 개념적·실증적 간극이 있으므로, 제목을 일반적인 초지능 도달의 증거로 해석해서는 안 됩니다.

연구 기여:
에이전트를 단순한 업무자동화 도구가 아니라 인간 연구자가 방향과 판단을 유지하고 에이전트가 탐색·구현·반복을 담당하는 프로젝트 파트너로 분석했다는 점이 의미 있습니다.

실무 적용:
기업 연구개발 조직에서는 에이전트의 성능을 단순한 완료율로 평가하기보다 다음과 같이 평가할 필요가 있습니다.

- 사람이 발견하지 못한 대안 제시율.
- 외부 근거로 검증 가능한 결과 비율.
- 인간 검토에 필요한 시간.
- 제안의 재현성.
- 잘못된 가설을 조기에 폐기하는 능력.
- 최종 의사결정에 대한 인간 통제 수준.


5. 전략적 시사점과 실무 적용

1) 에이전트 ID를 사람 ID와 분리

에이전트는 사람의 계정을 그대로 복제해서 사용해서는 안 됩니다. 각 에이전트에 고유한 ID를 부여하고, 어떤 사용자와 업무에 의해 생성됐는지 연결해야 합니다.

권장 속성은 다음과 같습니다.

- agent_id.
- owner_id.
- purpose.
- allowed_tools.
- data_scope.
- approval_policy.
- token_expiry.
- parent_agent_id.
- model_version.
- harness_version.

2) “모델 교체 가능성”을 아키텍처 원칙으로 채택

특정 LLM에 프롬프트, 검색, 업무규칙, 평가기준이 강하게 결합되면 모델 교체비용이 급격히 증가합니다. 모델 호출 계층과 업무 하네스 계층을 분리하고, 동일 업무에 대해 여러 모델의 품질·비용·지연시간을 비교할 수 있어야 합니다.

3) 사설 평가셋을 핵심 경쟁력으로 관리

기업별 평가셋에는 정상사례뿐 아니라 예외, 모호한 입력, 권한 없는 요청, 개인정보 노출, 상충하는 정책, 최신 데이터 부재 상황을 포함해야 합니다.

최소한 다음 평가를 자동화하는 것이 좋습니다.

- 정확성.
- 근거성.
- 데이터 최신성.
- 권한준수.
- 도구호출 적절성.
- 개인정보 노출 여부.
- 비용.
- 응답시간.
- 인간승인 필요성 판단.


4) AI 전력비를 TCO에 포함

AI 프로젝트의 비용은 GPU 임대비나 API 비용만으로 계산해서는 안 됩니다. 데이터센터의 전력 피크와 냉각비, 전력망 접속비, 대기시간에 따른 작업 재배치 비용을 함께 산정해야 합니다.

특히 대규모 학습과 배치 추론은 전력가격이 낮거나 재생에너지 공급이 높은 시간으로 이동할 수 있습니다. 반면 실시간 금융·보안·고객업무는 안정적인 전력과 낮은 지연시간이 우선이므로 별도의 인프라 계층이 필요합니다.


5) 폐쇄망·금융환경에서 우선 적용할 통제

- 모델·임베딩·벡터DB의 버전관리.
- 개인정보와 권한정보의 저장소 분리.
- 메모리 데이터의 출처·유효기간 관리.
- 실행 전 정책엔진 검증.
- 모든 도구 호출의 구조화 로그.
- 모델·프롬프트·하네스 변경 시 회귀평가.
- 인간 승인과 자동 실행의 경계 명시.
- 비상 중단과 권한 일괄회수 기능.
- 에이전트별 비용·토큰·전력 추정치 관리.





#AI&Tech #AI서비스 #AI파운데이션모델 #AI비즈니스 #피지컬AI #AI전략 #페르소나AI #AI에이전트 #AI인프라경쟁 #AI보안 #AI규제 #하네스엔지니어링 #자율지능 #데이터비식별화 #가명화 #LLM편향방지 #AI윤리 #AI반도체 #AI전력 #AI투자





출처
[1] AI agents breached 395 organizations using credentials your IAM ... https://venturebeat.com/security/ai-agents-breached-395-organizations-using-credentials-your-iam-policy-still-treats-as-human
[2] Microsoft releases new AI playbook for enterprises based on its own ... https://venturebeat.com/technology/microsoft-releases-new-ai-playbook-for-enterprises-based-on-its-own-learnings-and-it-reveals-a-surprising-moat-your-biz-may-already-have
[3] US House to vote on data center power cost bill - Reuters https://www.reuters.com/legal/litigation/us-house-vote-data-center-power-cost-bill-2026-09-16/
[4] House passes bill aimed at addressing impact of data ... https://abcnews.com/Politics/wireStory/house-passes-bill-aimed-addressing-impact-data-centers-136511917
[5] Authorization Architectures for Tool-Using AI Agents https://arxiv.org/abs/2609.15906
[6] Anthropic launches Claude Code Projects, an 'always ... - VentureBeat https://venturebeat.com/orchestration/anthropic-launches-claude-code-projects-an-always-on-conversation-that-remembers-and-delegates-your-long-running-dev-work
[7] Google's Dream-RSI cuts discovery-agent calls up to 162x by replaying searches it already ran https://venturebeat.com/orchestration/googles-dream-rsi-cuts-discovery-agent-calls-up-to-162x-by-replaying-searches-it-already-ran
[8] House advances bill to rein in AI data center utility costs https://www.cnbc.com/2026/09/15/congress-ai-data-center-utility-costs.html
[9] Bill to curb AI data center utility costs hits snag in Senate https://www.cnbc.com/2026/09/17/ai-data-center-utility-cost-senate.html
[10] Tech giants launch flexible-power coalition for data centers https://www.axios.com/2026/09/16/tech-giants-launch-flexible-power-coalition-data-centers
[11] AgentAudit: An Open, Extensible Framework for Full-Lifecycle Trust Evaluation of AI Agents https://arxiv.org/abs/2609.09875?ref=taaft
[12] [2609.15818] Atria Dawn: The Dawn of Agentic Superintelligence https://arxiv.org/abs/2609.15818?ref=aiposthub.com
[13] Four security AI bets and how to judge them | VentureBeat https://venturebeat.com/security/nobody-can-compare-the-security-ai-numbers-crowdstrike-google-palo-alto-and-microsoft-published-including-the-cisos-who-are-stuck-with-the-results
[14] The share of developers using AI to write half or more code jumped ... https://venturebeat.com/data/the-share-of-developers-using-ai-to-write-half-or-more-code-jumped-from-12-to-42-yoy-in-latest-bairesdev-survey
[15] LM-Kit Launches LM-Kit One, a Private AI Application Server for ... https://venturebeat.com/business/lm-kit-launches-lm-kit-one-a-private-ai-application-server-for-organizations-and-software-vendors
[16] Cohere's Model Vault now encrypts AI inference so ... - VentureBeat https://venturebeat.com/data/coheres-model-vault-now-encrypts-ai-inference-so-even-cohere-cannot-see-enterprise-customers-data
[17] OpenAI vs. Anthropic: the agent platform gap | VentureBeat https://venturebeat.com/orchestration/69-of-enterprises-that-install-openais-agent-platform-make-it-primary-for-anthropics-claude-platform-its-38
[18] AWS's OpenSearch pitch ahead of OpenSearchCon | VentureBeat https://venturebeat.com/data/awss-opensearch-pitch-ahead-of-opensearchcon-retrieval-serverless-costs-and-agent-memory
[19] Lickly Unveils New Brand and Decision Intelligence Platform at ... https://venturebeat.com/business/lickly-unveils-new-brand-and-decision-intelligence-platform-at-unbound-2026
[20] Every user, device and agent gets its own table in KeewanoDB, and ... https://venturebeat.com/data/every-user-device-and-agent-gets-its-own-table-in-keewanodb-and-queries-never-join-across-them
[21] Fulcra Brings Universal Multiplayer to Any Agents You Choose https://www.artificialintelligence-news.com/news/fulcra-brings-universal-multiplayer-to-any-agents-you-choose/
[22] Dreamforce 2026 Archives - AI News https://www.artificialintelligence-news.com/news/tag/dreamforce-2026/
[23] Adecco Group Archives https://www.artificialintelligence-news.com/news/tag/adecco-group/
[24] OpenAI claims huge maths breakthrough on a famed ‘Millennium Problem' https://www.nature.com/articles/d41586-026-02842-5
[25] Transplanted human brain-tissue takes root in mice without a cortex https://www.nature.com/articles/d41586-026-02927-1
[26] OpenAI maths bombshell sparks debate about who gets credit in age of AI https://www.nature.com/articles/d41586-026-02910-w
[27] AI companies must work with the research community to protect attribution https://www.nature.com/articles/d41586-026-02886-7
[28] Defining AI Agents: A Compendium of Criteria, Metrics, and Benchmarks https://arxiv.org/abs/2609.11018v1
[29] Power Architecture, Stability,and Flexibility of AI Data Centers - arXiv https://arxiv.org/html/2609.11649v1
[30] Can AI Agents Deliver Verifiable Network-Wide Outcomes Across Authority Boundaries? https://arxiv.org/abs/2609.10181
[31] [2609.08977] Omni Interaction Agent Technical Report - arXiv https://arxiv.org/abs/2609.08977
[32] Predictive first-principles simulations for co-designing next ... - arXiv https://arxiv.org/html/2603.08995v2
[33] Computation and Language Sep 2026 https://www.arxiv.org/list/cs.CL/current?skip=300&show=2000
[34] [2609.09150] Copying explains the collective behavior of AI ... https://arxiv.org/abs/2609.09150
[35] Explaining AI Agents Through Execution Traces https://arxiv.org/abs/2609.06063v1
[36] US AI Boom Needs $110 Billion of New Power Plants, Moody’s Says https://www.bloomberg.com/news/articles/2026-09-14/us-ai-boom-needs-110-billion-of-new-power-plants-moody-s-says
[37] US AI Boom Needs $110 Billion of New Power Plants, Moody's Says https://finance.yahoo.com/energy/articles/us-ai-boom-needs-110-120000607.html
[38] AIB Data Centers Nearly Doubles Contracted Power Capacity to 120 ... https://finance.yahoo.com/technology/ai/articles/aib-data-centers-nearly-doubles-123100844.html
[39] House votes to curb AI data center costs https://www.axios.com/2026/09/16/house-ai-data-center-power-bills
[40] Elon Musk Says AI Data Centers Are Lowering Electricity Prices for ... https://247wallst.com/investing/2026/09/14/elon-musk-says-ai-data-centers-are-lowering-electricity-prices-for-consumers-heres-what-we-found-when-we-ran-the-numbers/
[41] Why South Korea is giving 51 million people unlimited AI - Asia Times https://asiatimes.com/2026/09/why-south-korea-is-giving-51-million-people-unlimited-ai/
[42] AI Data Centers Face Power Bottleneck, Experts Push for Usage Overhaul https://www.chosun.com/english/industry-en/2026/09/18/OOIZTOQVVBF7RKHADHNJAM6W24/
[43] South Korean Deputy Prime Minister Bae Kyung-hoon ... https://www.tradingkey.com/analysis/stocks/us-stocks/262170496-korea-deputy-pm-bae-kyung-hoon-opposes-slowing-ai-development-no-room-to-decelerate-tradingkey
[44] House Votes 417-3 To Make AI Data Centers Cover Their Own ... https://www.foreignpolicyjournal.com/2026/09/17/house-votes-417-3-to-make-ai-data-centers-cover-their-own-energy-infrastructure-costs/
[45] House Passes Bill to Make AI Data Centers Pay for Power ... https://www.lawcommentary.com/articles/house-ai-data-centers-power-grid-costs-bill