Korea Insight Signal

GPT-6 아스트라 공개｜OpenAI가 성능보다 AI 안전을 강조한 진짜 이유 GPT-6 Astra의 핵심은 단순한 성능 향상이 아닙니다. AI가 스스로 컴퓨터를 조작하고 장시간 업무를 수행하는 단계로 발전하면서, “AI를 얼마나 잘 통제하고 감시할 수 있는가” 가 새로운 경쟁 기준으로 떠오르고 있습니다. 핵심 요약 OpenAI는 GPT-6 Astra에서 성능만큼 안전성과 모니터링 을 강조했습니다. 내부 평가에서 심각한 비정렬 행동은 GPT-5.6 Sol 대비 약 53% 감소 했습니다. 반면 Chain of Thought를 이용한 모니터링 가능성은 낮아졌습니다. No-CoT 작업 시간은 약 3.6분에서 30.9분 으로 크게 증가했습니다. 앞으로 AI 경쟁은 성능뿐 아니라 통제 가능한 AI 를 만드는 경쟁으로 이동할 가능성이 큽니다. 목차 GPT-6 아스트라는 어떤 모델인가? OpenAI가 안전성을 강조한 이유 AI는 안전해졌지만 속을 보기 어려워졌다 No-CoT 30.9분이 의미하는 것 AI가 생각을 숨기는 것인가? 순환 깊이와 루프형 트랜스포머 생각과 행동을 동시에 감시한다 다음 단계는 활성 모니터링 GPT-6 Astra는 AGI인가? 앞으로 AI 경쟁은 어떻게 바뀔까? GPT-6 아스트라는 어떤 모델인가? OpenAI가 차세대 AI 모델 GPT-6 아스트라(GPT-6 Astra) 를 공개했습니다. 새로운 AI 모델이 등장하면 일반적으로 가장 먼저 관심을 받는 것은 벤치마크 성적입니다. 수학 문제를 얼마나 잘 풀었는지, 코딩 능력이 얼마나 향상됐는지, 경쟁 ...

  AI가 위험해지는 순간은 답변을 넘어 시스템을 움직일 때입니다 AI 에이전트가 웹을 검색하고, 내부 문서를 읽고, 프로그램을 실행하며, 외부 서비스에 요청을 보내는 기능은 업무 자동화의 폭을 넓힙니다. 동시에 잘못된 명령·악성 콘텐츠·설정 오류가 실제 시스템의 권한과 만나면 위험도 커집니다. 최근 보도는 인터넷에 접근 가능한 평가 환경에서 AI 모델의 예기치 않은 행동이 관찰된 여러 사례를 다뤘습니다. 사례마다 격리 환경의 취약점, 테스트 설정, 제3자 구성 문제가 달라 기술적 사실관계를 하나로 묶어 단정할 수는 없습니다. 그렇지만 운영 원칙은 사건별로 적용할 수 있습니다. AI가 사용할 수 있는 도구를 최소화하고, 비밀값을 안전하게 다루며, 돌이키기 어려운 행동은 실행 전에 승인받고, 모든 행동을 나중에 추적할 수 있게 해야 합니다. 모델의 출력 필터만 강화하는 방식으로는 도구 호출과 계정 권한에서 발생하는 위험을 충분히 관리하기 어렵습니다. 사건의 원인을 구분하지 않으면 엉뚱한 통제를 강화하게 됩니다 AI 보안 이슈를 논의할 때는 모델의 행동, 평가 환경의 설정, 연결된 도구의 권한을 나눠 살펴야 합니다. 인터넷 접근이 발생한 이유가 샌드박스 탈출인지, 시험자가 의도적으로 접근을 허용한 것인지, 외부 테스트 시스템의 설정 실수인지에 따라 재발 방지책은 달라집니다. 모두를 ‘모델 통제 실패’로 부르면 네트워크 분리나 비밀관리 같은 운영 결함을 놓칠 수 있습니다. 보도는 여러 조직이 유사한 위험 신호를 공개했다는 점에서 의미가 있지만, 발생한 행동이 실제 공격 성공이나 데이터 피해로 이어졌는지까지 자동으로 뜻하지는 않습니다. 따라서 조직의 대응도 공포에 기반한 전면 차단보다 사용 중인 에이전트의 연결 관계를 정확히 파악하는 데서 시작해야 합니다. 누가 어떤 모델을 쓰는지보다, 그 모델이 어떤 도구와 데이터·계정에 닿는지가 먼저입니다. 권한은 에이전트가 아니라 작업 흐름에 맞춰 잘게 나눠야 합니다 AI에 ‘업무를 하라’는 넓은 권한을 부여하면...

  제미나이 스파크는 대화를 잘하는 AI가 아니라 일을 넘겨받는 AI를 지향합니다 구글이 개인용 AI 에이전트인 제미나이 스파크를 한국에 정식 출시했습니다. 공개 보도에 따르면 미국의 구글 AI 프로 이상 이용자를 대상으로 먼저 제공한 뒤 국내로 범위를 넓혔습니다. 스파크는 ‘제미나이 3.6’을 기반으로 하며, Gmail과 캘린더, 구글 닥스, 스프레드시트 등 구글 워크스페이스 도구를 가로질러 작동합니다. 이 서비스의 핵심은 AI에게 한 문장을 물어보고 답을 받는 데 있지 않습니다. 가령 예약 확인 메일이 오면 필요한 내용을 찾아 일정에 넣고, 여행 계획 표를 갱신하며, 관련 답장 초안까지 준비하는 연속 흐름이 목표입니다. 기존 생성형 AI가 ‘정보와 초안’을 주는 단계에 강했다면, 스파크는 사용자가 지정한 업무 흐름을 따라 실행 단계까지 이어지는 데 초점을 맞춥니다. 백그라운드에서 움직인다는 말은 권한과 승인 절차를 함께 봐야 한다는 뜻입니다 스파크는 노트북을 덮거나 스마트폰을 잠근 상태에서도 백그라운드로 업무를 수행할 수 있다는 점을 특징으로 내세웁니다. 이때 처리되는 범위는 사용자가 켠 기능과 연결한 앱에 의해 정해집니다. 메일 분류, 일정 등록, 문서 요약, 답장 초안 작성처럼 반복적인 디지털 사무 업무가 대표적인 활용 장면입니다. 그러나 자동화의 범위가 커질수록 확인의 중요성도 함께 커집니다. 공개된 설명에는 결제나 이메일 발송처럼 외부에 영향을 주는 행동에는 사전 승인 절차를 둔다고 나옵니다. AI가 작성한 답장 초안과 실제 발송, 일정 제안과 일정 등록은 같은 일이 아닙니다. 스파크를 검토할 때는 무엇을 읽게 할지보다 무엇을 실제로 변경하거나 보내게 할지부터 구분하는 편이 안전합니다. 제미나이의 기존 기능도 파일 요약, 글쓰기, 이미지·텍스트 처리, 구글 서비스와의 연결을 제공해 왔습니다. 스파크는 이 기반을 대체한다기보다, 여러 도구에서 발생하는 업무를 이어서 처리하는 에이전트 층을 더한 서비스로 볼 수 있습니다. 가격은 확인된 가입 ...

딥시크 새 버전 V4-플래시 출시: 무료인가, AI 생태계와 미국·AI주가에 미칠 영향 딥시크의 V4-플래시-0731은 모델 크기를 키우지 않고도 에이전트·코딩 업무 성능을 높인 API 업데이트입니다. 핵심은 무료 대화 서비스와 유료 API를 구분하고, 가격·보안·실제 도입 성과를 함께 판단하는 데 있습니다. 새 모델의 핵심은 ‘에이전트 작업 성능’입니다 딥시크는 7월 31일 공식 API 퍼블릭 베타로 딥시크-V4-플래시-0731 을 공개했습니다. 기존 V4-플래시 프리뷰와 같은 2840억개 전체 매개변수, 추론 때 활성화되는 130억개 매개변수 구조, 최대 100만 토큰 컨텍스트 길이를 유지하면서 사후학습을 다시 수행한 업데이트입니다. 딥시크는 중국 항저우 기반 AI 기업이 개발하는 대규모 언어모델 계열과 서비스입니다. 대화형 웹·앱 서비스와 개발자용 API를 함께 제공하며, 추론·코딩·도구 호출을 비용 경쟁력 있게 제공하는 전략으로 주목받았습니다. 기존 개발자는 모델 이름 deepseek-v4-flash 를 유지한 채 최신 버전을 사용할 수 있어 연동 코드 변경 부담도 낮습니다. 핵심 수치 한눈에 보기 모델 구조 284B 전체 · 13B 활성 컨텍스트 최대 100만 토큰 API 호환 OpenAI · Anthropic 형식 기존 버전과 달라진 곳은 벤치마크보다 작업 흐름입니다 공개 보도와 딥시크 측 설명에 따르면 터미널벤치 2.1은 82.7점, 소프트웨어 엔지니어링 작업 평가인 딥SWE는 54.4점을 기록했습니다. 코드 저장소 이해, 보안 취약점 탐지, 도구 사용 관련 지표에서도 개선 수치가 제시됐습니다. 다만 벤치마크가 실제 현장의 성능을 보장하지는 않습니다. 기업은 자체 코드베이스, 권한 설계, 도구 연결, 보안 검증, 한국어 품질과 장애 대응을 포함한 환경에서 파일럿 테스트를 거쳐야 합니다. 이번 업데이트의 의미는 더 큰 모델 선언...