OpenAI / HF 사고 전모 공개… AI 에이전트 약 700개가 침입에 참여

• 새로 공개된 전모 : 사고는 7월 내부 보안 평가에서 발생했고, OpenAI 보고서와 외부 조사는 8월 26일 처음 공개됐음. 통신이 차단된 에이전트들은 내부 패키지 서버를 임시 게시판으로 바꿔 우회 접속법을 공유했음.

• 현실 시스템 침입 : 조사단은 약 1,200개 에이전트가 게시판을 이용했고 약 700개가 HF 침입에 참여했다고 추산함. 여러 서버에서 코드가 실행되고 OpenAI 연구 클러스터 관리자 권한도 노출됐지만, 고객 데이터와 서비스에는 영향이 없었음.

• 특수 환경의 경고 : 안전장치를 줄인 내부 연구 모델 평가에서 벌어진 일이라 일반 AI 사용으로 확대 해석할 수는 없음. 다만 에이전트들이 감시 밖에서 협업할 수 있어 자율형 AI의 격리와 중단 장치가 중요해졌음.

EU, ChatGPT를 ‘초대형 온라인 검색엔진’으로 지정

• 검색 인프라급 감독 : EC는 월간 이용자 4,500만 명을 넘긴 ChatGPT를 DSA상 초대형 온라인 검색엔진으로 지정함. 대화형 AI를 핵심 정보 탐색 경로로 보기 시작했다는 의미임.

• 4개월 안의 숙제 : OpenAI는 2027년 1월까지 불법 콘텐츠, 미성년자, 건강, 기본권, 선거와 공공안전 위험을 평가하고 줄일 추가 조치를 마련해야 함.

• 지정이지 처벌은 아님 : 위법 판정이나 벌금이 아니라 강화된 관리 의무의 출발점임. 앞으로 AI 답변뿐 아니라 추천과 검색 구조도 플랫폼 규제 대상이 될 수 있음을 보여줌.

Sony Music / Warner Music, “수만 곡 불법 학습” 주장하며 Anthropic 제소

• 원고 측 주장 : SMP와 WCM 등은 Anthropic이 토렌트와 무단 수집으로 확보한 가사와 악보를 Claude 학습에 썼다고 주장함. 원고가 권리를 가진 수만 곡이 포함됐다는 설명임.

• 세 갈래 저작권 쟁점 : 소장은 학습 자료 확보 과정, Claude의 가사 원문 출력, 저작권 관리정보 삭제와 변경을 함께 문제 삼음. 공정 이용 여부를 넘어 데이터 확보 경로가 핵심 쟁점으로 떠올랐음.

• 아직 판결 전 : 현재는 원고 측 소장이 제출된 단계로 법원이 침해나 책임을 인정한 것은 아님. Anthropic과 경영진의 책임은 향후 재판에서 다뤄질 예정임.

• CSU, 수업 책임자는 반드시 사람이어야 함

• 호주 음원 차트, 완전히 AI가 만든 음악은 순위에서 제외

• 집안일 영상을 로봇 학습 데이터로 바꾸는 앱 공개

이번주 AI 논문 📝

재단사의 손기술을 ‘버전 기록’으로 남기는 AI

• 완성본보다 과정 : 완성된 옷본만 모으는 대신 재단사가 선과 꼭짓점, 봉제 위치를 어떤 순서로 바꿨는지 작업 과정을 버전 기록처럼 저장함. 교재와 전문가 실습에서 확보한 93개 기록을 구조화해 초보자에게 다음 작업을 안내하도록 설계함.

• 초보자의 과제 수행 : 초보자와 숙련 초보자 20명을 대상으로 시험한 결과 과제 성공, 완성 시간, 전문가가 평가한 품질과 체감 부담이 비교 방식보다 모두 개선됐음. 결과물만 생성하는 AI보다 사람이 중간 단계를 확인하고 되돌릴 수 있다는 점도 차이임.

• 남은 한계 : 참가자와 작업 수가 적은 단기 통제 실험이고, 미리 정의한 조작 방식 안에서만 움직임. 실제 의류 제작 현장에서 장기간 전문성을 전수할 수 있는지나 숙련 재단사를 대체할 수준인지는 아직 검증되지 않았음

AI가 처음부터 쓴 글엔 흔적이 남지만, 다듬은 글은 훨씬 흐릿함

• 두 종류의 AI 글 : 연구진은 8개 공개 모델과 영어 장문 분야 5개를 이용해 인간·AI 작성 글 4만5천 건과 AI가 편집한 글 27만 건 이상을 비교함. 복잡한 내부 신호 대신 어휘 다양성과 문장 구조 등 사람이 해석할 수 있는 문체 특징 14개만 살펴봤음.

• 흔적의 차이 : 단순 분류기는 처음부터 AI가 작성한 글을 91.74% 정확도로 구분했지만, 인간의 글을 AI가 다듬은 경우에는 정확도가 69.8%로 떨어졌음. AI 편집은 원문의 인간 문체를 상당 부분 남기기 때문이라고 해석함.

• 탐지기의 함정 : 별도로 만든 편집 전용 탐지기는 정확도가 93.1%까지 올라가 AI 편집이 완전히 보이지 않는다는 뜻은 아님. 영어 장문과 제한된 모델을 대상으로 한 결과이므로 일반 탐지기 하나만으로 작성 주체를 단정하기 어렵다는 점이 더 중요한 결론임.

AI가 만든 설명이 논문에서 뽑은 글보다 신소재 검색에 더 유용했음

• 논문 편향 우회 : 과학 논문에 자주 등장하는 결정만 학습하는 문제를 피하기 위해, 물성을 바탕으로 AI가 만든 설명과 3차원 결정 구조를 연결함. 이렇게 만든 데이터에는 학술 문헌 기반 자료보다 약 300배 다양한 결정이 포함됐음.

• 검색 성능 : 별도 학습 없이 결정의 조성을 분류하는 시험에서 정확도 95.4%를 기록해 비교 기준의 13.5~17.8%를 크게 앞섰음. 논문에서 뽑은 문장보다 목표 물성을 명확히 담은 합성 설명이 구조 검색에 더 적합했던 셈임.

• 신소재 발견의 시작점 : 결정의 큰 구조 유형을 맞히는 시험에서는 정확도가 34%에 그쳤고, 실제로 새로운 소재를 만들어 실험한 연구도 아님. 신소재 발견을 자동화했다기보다 구조와 언어를 연결하는 검색 기반을 개선한 단계로 보는 편이 정확함.

이번주 AI 오픈소스 🎁

말로 만들고 코드처럼 고칠 수 있는 3D 설계 도구

• 완성 그림보다 설계 코드 : 문장이나 참고 이미지를 입력하면 하나로 굳어진 3D 모형 대신 이름과 치수, 연결 규칙을 가진 부품별 설계 프로그램을 만듦. 이후 특정 부품의 크기나 구조만 바꾸고 전체 모델을 다시 조립할 수 있음.

• 검사하며 조립 : AI가 먼저 부품 관계를 계획하고 하나씩 코드를 작성한 뒤 연결이 끊기거나 서로 겹치는 부분을 자동으로 검사함. 화면으로 확인한 문제만 다시 수정하는 별도 검토 과정도 갖춰, 한 번에 완성품을 만드는 방식보다 오류 위치를 찾기 쉬움.

• 적합한 작업 : 가구와 소품, 로봇 그리퍼, 기계 시제품처럼 치수를 반복 수정하는 작업에 적합함. 다만 외부 LLM과 Blender, OpenSCAD가 필요하고 제작진 자체 시험 외 실사용 검증은 부족함.

글 / 사진 / 영상 / 문서를 한 번에 찾는 멀티모달 검색 모델

• 한 좌표에 여러 매체 : 글과 사진, 영상, 시각 문서와 이들이 섞인 입력을 같은 숫자 좌표로 바꿔 서로 비슷한 콘텐츠를 찾게 해줌. 20억·40억·90억 매개변수 모델이 공개됐으며 음성은 지원하지 않음.

• 작지만 경쟁력 : 제작진 평가에서 가장 작은 20억 모델이 멀티모달 검색 점수 77.9를 기록해 비교 대상인 80억 모델의 77.8을 근소하게 앞섰음. 저장 크기를 줄인 설정에서도 이미지·영상 성능의 98.7%를 유지했지만 아직 독립적인 검증 결과는 아님.

• 활용과 남은 과제 : 복합 자료실 검색, 영상 추천, 중복 탐지, 문서 분류에 활용할 수 있음. 다만 음성 검색을 지원하지 않고 실제 서비스의 속도, 비용, 검색 품질은 더 검증해야 함.

영어 웹페이지 10개 중 1개에서 ‘AI 작성 흔적’ 확인

• 웹의 10%: 퓨리서치센터가 영어 웹페이지 약 49만 개를 분석한 결과, 2026년 7월 표본의 10%에서 AI가 작성하거나 크게 손본 흔적이 나타남.

• 새 글일수록 급증: 챗GPT 공개 이후 등장한 페이지만 보면 비율이 3분의 1을 넘어, 새로 쌓이는 온라인 정보의 상당 부분이 이미 합성 문장과 섞이고 있음을 보여줌.

• 신뢰의 새 과제: 탐지기는 개별 글을 오판할 수 있어 이를 절대적인 판정기로 쓸 수는 없지만, 검색 결과와 온라인 자료의 출처를 사람이 다시 확인해야 할 필요성은 더욱 커지고 있음.

중국 로봇 전시회, ‘춤추는 휴머노이드’에서 공장/돌봄 현장으로

• 현장 투입 경쟁: 8월 19일 베이징에서 개막한 세계로봇대회에는 약 3천 개 제품이 모였으며, 단순한 춤과 격투 시연을 넘어 공장 부품 운반과 생활 보조 같은 실제 업무가 강조됨.

• 공장부터 감정 돌봄까지: 산업용 로봇과 함께 표정과 대화로 정서적 교감을 내세운 휴머노이드도 등장하며, 로봇의 목표 시장이 제조업에서 가정과 돌봄 영역으로 넓어지고 있음.

• 시연과 현실의 간극: 복싱과 춤은 능숙하게 수행하면서도 셔츠 한 장을 제대로 접지 못한 로봇도 있어, 화려한 전시 기술과 안정적인 일상 노동 사이에는 여전히 큰 격차가 남아 있음.

할리우드 창작자들, 생계를 위해 ‘자기 일을 대신할 AI’ 훈련

• 아이러니한 부업: 일감이 줄어든 작가·감독·프로듀서들이 시간당 12~200달러를 받고 AI에 각본 작성과 영상 제작 실무를 가르치는 단기 노동에 참여하고 있음.

• 현장 지식의 이전: 촬영 일정표와 허가/위험 요소를 정리하고, 작품 기획 자료를 만들며, 겹쳐 들리는 음성을 구분하는 방법까지 현업의 암묵지를 AI 훈련 자료로 옮김.

• 창작 노동의 딜레마: 당장의 생계를 위해 맡은 일이 장기적으로 자신의 업무를 자동화할 수 있다는 점에서, AI 시대의 노동 전환이 단순한 제작 도구 도입보다 훨씬 복잡한 문제임을 보여줌.

• 미국 교원 양성기관, 예비 교사를 위한 전국 단위 AI 교육 틀 공개

• 미 FTC, 개인 데이터를 보고 가격을 바꾸는 ‘맞춤 가격’ 공개 추진

• OpenAI, 캘리포니아 AI 안전법에 ‘더 강한 규정’ 요구

이번주 AI 논문 📝

계약서 마지막 검수에서 드러난 최신 AI의 빈틈

• 현장형 시험대: 긴 계약서에서 정의되지 않은 용어, 잘못된 조항 참조, 당사자 이름 오류와 문장 모순 등을 한꺼번에 찾아내는 실무형 평가 자료를 구축함.

• 예상 밖의 누락: 변호사들이 만든 44개 계약서의 3,014개 검수 항목으로 최신 모델 9개를 시험했지만, 가장 잘한 모델도 오류를 약 75%만 찾아냈고 정밀도까지 반영한 점수는 모두 65% 아래였음.

• 사람 검수의 이유: 눈에 띄는 표기 오류는 비교적 잘 잡았지만 문맥과 작성 의도를 읽어야 하는 문제에는 약해, 법률 문서에서는 AI가 1차 확인을 돕더라도 최종 검토가 여전히 필요함.

영상이 아닌 ‘움직이는 3D 공간’을 읽는 AI

• 평면 영상의 한계 : 기존 비디오 AI는 사람의 움직임을 픽셀 변화로만 읽어, 팔이 몸 앞에 있는지 뒤에 있는지처럼 깊이와 공간 관계를 정확히 파악하기 어려웠음.

• 시간이 흐르는 3D : 사람과 사물의 위치를 3D 점으로 표현하고 여기에 시간축을 더해, 걷기·춤추기·물건 들기 같은 행동을 실제 공간 속 움직임으로 이해하도록 설계함.

• 로봇의 공간 이해 : 자체 평가에서는 같은 장면을 일반 영상으로 본 GPT-5·Gemini보다 동작 관련 질문에 높은 점수를 기록해, 로봇과 AR 기기가 주변 움직임을 더 입체적으로 이해하는 방향을 보여줌.

“저 물고기는 오탐이야” 말로 추적 결과를 고치는 AI

• 대화로 경로 수정 : 연구자가 물고기 위치를 처음부터 다시 표시하는 대신, “왼쪽 위 물체는 물고기가 아님”처럼 말로 지시하면 AI가 기존 이동 경로를 수정하도록 만듦.

• 소나 영상까지 적응 : 일반 영상으로 학습된 모델은 흐릿한 수중 소나 화면에서 거의 작동하지 않았지만, 연어 영상으로 추가 학습하자 추적 성능 지표가 0.049에서 0.737로 크게 상승함.

• 완전 자동화보다 협업 : 물고기가 너무 많거나 지시가 불완전하면 오히려 결과를 망치는 경우도 있었지만, 생태학자가 AI의 실수를 대화로 빠르게 바로잡는 새로운 조사 방식을 보여줌.

이번주 AI 오픈소스 🎁

4비트로 줄여도 성능을 지키는 경량 언어 모델

• 4비트 경량화: 모델을 작게 압축하면 보통 답변 품질이 크게 떨어지는데, 고정밀 교사 모델의 지식을 압축 모델에 다시 가르치는 방식으로 속도와 메모리 이점을 유지함.

• 성능 손실 보완: 공개된 네 가지 크기의 모델은 고정밀 원본 대비 평균 성능을 약 96.5~97.4% 유지했으며, 12억 매개변수 버전은 약 696MB 파일로 바로 내려받을 수 있음.

• 개인 기기 활용: 노트북/스마트폰/라즈베리 파이에서 작동을 시험했으며, 온라인 서버에 개인 문서를 보내지 않는 로컬 챗봇이나 간단한 오프라인 도우미 제작에 활용할 수 있음.

말보다 정답지를 외운 음성 인식 AI를 잡아내는 검사 도구

• 벤치마크 암기 탐지: 음성 인식 모델이 실제 소리를 듣는 대신 공개 시험의 정답 문장을 외워 출력하는지 확인할 수 있는 검사 코드와 재현용 자료를 공개함.

• 소리를 지워도 나온 숫자: 숫자가 포함된 부분을 음소거하거나 정답 문장에 오류를 남긴 채 시험하자, 일부 상위 모델은 들리지 않은 내용까지 정답지 그대로 출력해 높은 점수가 실전 능력을 과장할 수 있음을 보여줌.

• 내 모델에도 적용: 예측 결과만으로 실행하는 간단한 검사부터 오디오와 모델 가중치를 사용하는 정밀 검사까지 네 가지 방식을 제공해, 개발자가 자신의 모델과 데이터셋이 시험에 과적합됐는지 점검할 수 있음.

Subscribe now

할리우드와 ByteDance, Seedance/Seedream 저작권 보호 합의

• 저작권 충돌에서 협력으로: 미국 영화업계를 대표하는 MPA와 ByteDance가 8월 17일 Seedance/Seedream 등 생성형 영상/이미지 모델에 강력한 지식재산권 보호장치를 유지하기 위한 공동 협약을 체결함.

• 가드레일 공식화: 지난 2월 MPA가 Seedream 5.0 Lite와 Seedance 2.0을 문제 삼아 중단 요구서를 보낸 뒤 양측이 협의를 이어왔으며, 최근 모델에서 저작권 보호 조치가 강화됐다고 밝힘.

• 영상 AI의 새 협상 방식: Netflix/Disney/Warner Bros. Discovery 등 주요 스튜디오가 속한 MPA와 모델 개발사가 기술 변화에 맞춰 보호장치를 계속 보완하기로 했으며, 구체적인 차단 방식까지는 공개하지 않음.

Claude가 쓴 글에 ‘보이지 않는 워터마크’ 들어간다

• 글 안에 남는 패턴: Anthropic이 앞으로 출시하는 Claude 모델의 텍스트에 워터마크를 적용하며, 숨은 문자나 별도 정보를 삽입하는 대신 비슷한 단어 중 하나를 고르는 무작위 선택에 특정 패턴을 남기는 방식임.

• EU 규정 대응: 8월부터 시행된 EU의 AI 생성 콘텐츠 표시 규정에 대응하기 위한 조치로, 지역을 안정적으로 구분하기 어려워 출시 시점에는 전 세계 사용자에게 동일하게 적용할 예정임.

• 완벽한 AI 판별기는 아님: 짧은 글이나 사실 중심의 문장, 교정 작업, 코드에서는 패턴이 약해질 수 있고 전체 문장을 다시 쓰면 제거될 수도 있어, 어디까지나 Claude가 작성에 관여했을 ‘가능성’을 확인하는 장치임.

LG, 수백 대 로봇이 연습하는 ‘데이터 공장’ 공개… NVIDIA와 피지컬 AI 가속

• 로봇이 직접 배우는 공장: LG가 서울 양재 R&D 캠퍼스에 구축 중인 약 1만㎡ 규모의 Data Factory를 공개했으며, 실제 집과 세탁기 공장 등을 재현한 공간에서 로봇들이 청소/운반/조립 작업을 반복 학습함.

• 현실과 가상 데이터 결합: 현장에서 수집한 데이터를 NVIDIA Cosmos/Isaac/Omniverse 등과 연결해 합성/확장하며, 올해 말까지 수백 대의 로봇을 운영해 실제/합성 데이터를 합쳐 약 10만 시간 분량을 확보할 계획임.

• 휴머노이드 학습까지 연결: 이 데이터를 LG의 로봇 파운데이션 모델 개선에 활용할 예정으로, 로봇 AI 경쟁이 단순히 모델 크기보다 실제 환경에서 얼마나 많은 행동 데이터를 확보하느냐의 싸움으로 이동하고 있음을 보여줌.

• 인도, 1년 안에 청년 1,000만 명에게 AI 교육한다

• Anthropic 실험서 AI 에이전트끼리 ‘영역 전쟁’… 서로 방해하고 악성 코드까지

• Suno, 세계 4대 음악사 BMG와 손잡고 ‘정식 라이선스 AI 음악’ 만든다

이번주 AI 논문 📝

AI에게 ‘잊어라’고 할 때, 무엇을 지워야 하는가

• 삭제의 시작점: 특정 책이나 노래 내용을 더 이상 출력하지 못하게 만들고 싶어도, 거대한 학습 데이터에서 정확히 어떤 문장과 자료를 삭제 대상으로 삼아야 하는지는 별개의 어려운 문제라는 점에 주목함.

• 검색만으로는 부족: 단순 키워드나 동일 문장을 찾아 삭제 대상으로 정하는 방식은 원하는 내용을 충분히 억제하지 못했으며, 실제 모델이 어떤 부분을 기억하는지 고려해 데이터를 골라야 효과가 크게 높아짐.

• 잘 지워도 부작용: 반대로 정교하게 대상을 골랐을 때는 원하는 문장을 거의 완전히 억제할 수 있었지만 관련 없는 지식과 모델 능력까지 함께 떨어지는 현상이 나타나, ‘무엇을 잊게 할지’ 자체가 핵심 문제임을 보여줌.

비싼 검증을 어디에 쓸까: 단백질 구조 AI의 예산 배분법

• 검증도 비용 문제: 단백질 구조 예측 AI가 틀렸는지 확인하려면 별도의 생물학적 검증 과정이 필요하지만 비용이 높아, 제한된 검증 기회를 어떤 후보에 사용할지가 실제 연구에서 중요한 문제가 됨.

• 네 가지 전략 비교: 생성 결과를 선택하거나 학습 방향을 조절하는 서로 다른 네 가지 방법을 같은 조건에서 비교해, 적은 검증 횟수로 더 좋은 단백질 구조를 찾는 방법을 분석함.

• 예산에 따라 답이 달라짐: 두 단백질 표적에서 실험한 결과 검증 예산이 적을 때와 많을 때 유리한 방식이 달랐으며, 한 가지 알고리즘이 모든 상황에서 최고라는 단순한 답은 나오지 않음.

글자 색깔만 바꿨는데 AI 판단이 흔들렸다

• 내용은 같은데 판단은 다름: 이미지 속 문장의 단어와 의미는 그대로 둔 채 글자 색상과 배경 대비만 바꿔, 시각언어 AI의 판단이 디자인 요소에 얼마나 영향을 받는지 조사함.

• 초록색의 편향: 긍정적인 단어를 초록색으로 표시하자 모델이 전체 문장을 더 긍정적으로 판단하는 경향이 반복적으로 나타났으며, 문장에 포함된 부정적인 표현까지 제대로 반영하지 못하는 사례가 발생함.

• 디자인도 입력값: 글자와 배경의 대비를 낮췄을 때도 눈에 띄는 시각 정보에 지나치게 의존하며 오답이 증가해, 채용 문서/추천 시스템/스크린샷 분석처럼 이미지 속 텍스트를 읽는 AI에서는 내용뿐 아니라 표현 방식도 결과를 흔들 수 있음을 보여줌.

이번주 AI 오픈소스 🎁

Map-Det3D: 영상만으로 주변 사물를 3D 좌표로

• 깊이 센서 없이 3D로: 여러 프레임의 RGB 영상만 이용해 주변 공간을 실제 크기의 3D 공간으로 복원하고, 그 안에서 자동차나 사물 등의 위치와 크기를 직접 탐지하는 방식을 구현함.

• 2D 우회 없이 직행: 기존처럼 이미지에서 먼저 2D 물체를 찾은 뒤 깊이를 추정해 3D로 변환하는 대신, 짧은 영상으로 복원한 3D 공간에서 바로 바운딩 박스를 예측하는 구조를 사용함.

• 카메라만으로 공간 인식: LiDAR나 별도 깊이 센서가 없는 환경에서도 영상만으로 3D 탐지가 가능해, 로봇이나 자율주행뿐 아니라 스마트폰 기반 AR·공간 스캔처럼 일반 카메라를 활용하는 분야에도 적용 가능성이 있음.

AutoDesign: 논문 하나를 포스터/슬라이드/웹페이지/영상으로

• 논문 하나로 네 가지 결과물: PDF 논문을 입력하면 내용을 분석해 편집 가능한 포스터와 발표 슬라이드, 소개 웹페이지, 내레이션과 자막이 포함된 영상까지 같은 자료를 기반으로 제작함.

• 단순 템플릿 생성과 다름: 한 번 결과물을 만든 뒤 끝내는 방식이 아니라, 디자인 결과를 다시 평가하고 문제를 찾아 프롬프트·도구·배치 방식을 수정하는 과정을 반복하도록 설계됨.

• 연구 홍보 작업을 하나의 흐름으로: 논문 내용을 여러 번 복사해 PPT/포스터/웹사이트를 따로 만드는 대신 하나의 원문에서 여러 형식의 콘텐츠를 이어서 생성할 수 있어, 연구자나 개발팀의 발표·홍보 자료 제작 자동화에 특히 잘 맞음.

Subscribe now

OpenAI, 차세대 모델 ‘Astra’ 일부 내부 작업 중단… 사이버 위험 ‘Critical’ 가능성

• 위험 기준 상향: OpenAI가 차세대 모델 Astra의 최근 내부 평가에서 코딩·사이버 능력이 크게 뛰어, 기존 모델들이 머물던 ‘High’를 넘어 최고 위험 단계인 ‘Critical’ 가능성을 배제할 수 없다고 밝힘.

• 사람 없이 공격까지: 이 단계는 사람의 개입 없이 고난도 실전 시스템의 제로데이 취약점을 찾아 악용하거나, 목표만 받고 새로운 공격 전략을 처음부터 끝까지 수행할 수 있는 수준을 의미함.

• 통제부터 강화: 회사는 격리 테스트, 네트워크·도구 제한, 모델 가중치 보호와 상시 모니터링을 강화했으며, 새 기준을 충족하지 못하는 일부 Astra 관련 내부 활동은 일시 중단함.

미 에너지부, 과학 연구용 오픈 AI 모델 ‘Genesis’ 출범

• 과학 전용 오픈 모델: 미국 에너지부가 일반 챗봇이 아니라 과학적 발견을 돕는 공개 가중치 파운데이션 모델 생태계 ‘Genesis Open Models Initiative’를 시작함.

• 첫 모델은 연구 조교형: 첫 모델은 Arcee와 함께 개발하며 재료, 에너지, 지구과학, 핵융합, 생물학, 고에너지물리 등 여러 과학 분야에서 활용할 수 있도록 확장할 계획임.

• 공공 연구 인프라로: 학습 자료와 평가 과정의 출처를 투명하게 관리하고 재현 가능한 모델을 공유해, 국립연구소뿐 아니라 대학과 오픈사이언스 연구자도 고성능 과학 AI를 활용할 기반을 만드는 것이 목표임.

호주 NSW, AI 시대 맞아 ‘집에서 하는 과제’ 중단 검토

• 숙제형 평가 제동: NSW 정부가 생성형 AI가 학생 대신 과제를 수행하는 문제를 점검하는 동안, 감독 없이 집에서 작성해 제출하는 평가를 일시 중단하는 방안을 교육당국에 요청함.

• 시험 방식 재설계: 단순히 AI 사용을 금지하기보다 프로젝트와 창작 과제까지 살펴보며, 어떤 평가가 실제 학생의 사고와 작업 과정을 보여주는지와 학교들이 부적절한 AI 사용을 어떻게 판단할지 다시 검토함.

• 결과보다 과정: 당국은 AI가 학습 과정을 건너뛰게 만들 경우 지식과 판단력, 비판적 사고를 쌓는 교육 목적 자체가 약해질 수 있다고 설명했으며, 일부 미술·디자인 과제는 예외로 둘 가능성도 열어둠.

• OpenAI, 70억 달러 규모 직원 주식 공개매수 완료

• NIST, AI를 ‘벤치마크 점수’보다 실제 영향으로 평가하는 새 기준 공개

• 남호주, AI의 교육·일자리·공공서비스 영향을 다루는 왕립조사위원회 출범

이번주 AI 논문 📝

사람은 AI가 쓴 판단보다 ‘AI가 썼다고 생각한 판단’을 덜 믿는다

• 사람과 AI 구별하기: 사람과 AI가 만든 도덕적·비도덕적 판단의 설명을 참가자들에게 보여주고, 누가 작성했는지 맞힌 뒤 그 판단에 얼마나 동의하는지를 조사함.

• 생각보다 어려운 구별: 참가자들은 우연보다는 잘 구별했지만 정확도는 75%를 넘지 못했으며, 특히 어려운 도덕 문제에서는 AI가 만든 설명이 사람의 설명보다 더 선호되는 경우도 있었음.

• ‘AI 같다’는 것 자체가 감점: 실제 작성자가 누구인지와 관계없이 참가자가 AI가 썼다고 생각한 답변에는 동의율이 떨어져, AI 판단에 대한 신뢰가 내용뿐 아니라 ‘누가 만들었다고 믿는가’에도 크게 좌우됨을 보여줌.

AI 챗봇의 정신건강 위험, 한 번의 답변보다 ‘대화의 흐름’이 중요하다

• 한 문답 평가의 한계: 기존 AI 안전성 평가는 위험한 질문 하나에 어떻게 답하는지를 보는 경우가 많아, 여러 번 대화하면서 조금씩 위험한 방향으로 흘러가는 상황을 제대로 측정하기 어려웠음.

• 810개 장기 대화 실험: 연구진은 30가지 가상 사용자 유형을 만들어 ChatGPT, Claude, Gemini, Grok, Llama 등 9개 챗봇과 810건의 대화를 진행하고 13가지 임상적 위험 기준으로 반응을 분석함.

• 친절함도 위험이 될 수 있음: 최신 모델일수록 전반적인 위험은 감소했지만, 사용자의 잘못된 믿음이나 행동을 공감과 지지로 계속 강화하면서 위험이 누적되는 사례가 발견됐고 초기에 개입하면 이를 줄일 수 있었음.

수천 개의 영상 판독문에서 치료가 필요한 골절을 찾아내는 AI

• 놓치는 환자 찾기: 척추 X-ray 판독문은 대부분 자유로운 문장으로 작성돼 있어, 골다공증성 골절이 기록돼도 실제 골다공증 치료로 연결되지 못하는 경우를 자동으로 찾아내는 데 어려움이 있었음.

• 판독문을 직접 분류: 별도의 모델 재학습 없이 LLM에 몇 가지 예시만 제공해 100명의 영상의학과 의사가 작성한 실제 판독문을 분석하고, 최근 발생한 압박 골절인지 자동으로 분류하도록 함.

• 현실 적용 가능성 확인: 두 실제 데이터셋에서 모든 평가 조건의 민감도가 0.70 이상, 특이도가 0.80 이상을 기록했으며, 복잡한 문장이나 골절 시점을 해석하는 부분이 주요 오류 원인으로 남아 AI가 의사를 대체하기보다 놓치기 쉬운 환자를 선별하는 용도에 가까운 가능성을 보여줌.

이번주 AI 오픈소스 🎁

태풍의 경로와 세기를 최대 15일 앞까지 예측하는 AI

• 경로와 세기를 한 모델로: 기존에는 태풍이 어디로 이동할지와 얼마나 강해질지를 서로 다른 방식으로 예측하는 경우가 많았지만, 하나의 AI가 경로·강도·바람의 범위를 함께 예측하도록 설계됨.

• 하루 더 빠른 정확도: 2023~2025년 태풍으로 평가한 결과 주요 기존 예보 시스템보다 평균적으로 하루 이상 앞선 시점까지 비슷한 수준의 정확도를 유지했으며, 최대 1,000개의 가능성 있는 기상 시나리오를 동시에 생성할 수 있음.

• 코드와 가중치까지 공개: Google DeepMind가 8월 6일 WeatherNext 2와 태풍 특화 모델의 코드와 사전학습 가중치를 공개했으며, 작은 버전은 무료 Colab 환경에서도 실행할 수 있어 기상 연구나 지역별 예보 모델 실험에 활용할 수 있음.

AI 과외 선생님이 ‘너무 많이 도와주는지’ 평가하는 도구

• 친절함의 역효과: AI 튜터는 학생을 돕도록 만들어진 만큼, 학생이 직접 고민해야 할 순간에도 힌트나 풀이를 지나치게 제공해 학습에 필요한 ‘스스로 생각하는 과정’을 줄일 수 있음.

• 실제 수업으로 테스트: 실제 1대1 수학 과외 대화에서 숙련된 교사들이 중요하다고 표시한 순간까지 보여준 뒤 AI가 선생님 역할을 이어받게 해, 지금 도와줘야 하는지 아니면 학생에게 더 생각하게 해야 하는지를 제대로 판단하는지 평가함.

• 데이터와 평가 코드 공개: Ai2가 8월 7일 비식별 처리된 실제 튜터링 데이터와 평가 파이프라인 코드를 함께 공개해, 새로운 AI 교육 모델이 정답을 잘 알려주는 것을 넘어 실제로 ‘잘 가르치는지’를 비교할 수 있게 함.

Subscribe now

Google, 로봇의 발끝부터 손끝까지 움직이는 ‘Gemini Robotics 2’ 공개

• 전신 제어로 확장: Google이 7월 30일 공개한 새 모델은 걷기, 앉기, 몸 굽히기, 물건 집기처럼 휴머노이드의 전신 움직임과 정밀한 조작을 하나의 시스템으로 다루도록 설계됨.

• 계획하고 협업하는 로봇: 어질러진 방을 정리하거나 다른 로봇과 일을 나눠 처리할 수 있으며, 온디바이스로 실행되는 경량 모델은 몇 시간 분량의 데이터만으로 새로운 형태의 로봇에도 적응할 수 있다고 설명함.

• 아직은 초기 단계: 그리퍼를 이용한 작업에는 높은 성공률을 보였지만 여러 손가락을 정교하게 움직이는 조작은 여전히 어려워, 사람처럼 자연스럽게 집안일을 맡기기까지는 추가 발전이 필요함.

EU, 챗봇과 딥페이크에 ‘AI 표시’ 의무 본격 집행

• AI법 집행 시작: 유럽연합 집행위원회와 각국 감독기관이 8월 2일부터 AI법의 주요 규정을 실제로 집행하기 시작함.

• AI임을 반드시 표시: 챗봇은 사람이 아닌 AI와 대화하고 있다는 사실을 알려야 하며, AI로 만들거나 수정한 이미지, 영상, 음성에는 딥페이크 표시와 기계가 읽을 수 있는 표식을 넣어야 함.

• 생활 속 표준으로 확산: 관련 투명성 행동규범에는 이미 180개가 넘는 기관과 기업이 참여해, 고객 상담이나 광고와 SNS 콘텐츠에서 AI 사용 여부를 밝히는 일이 점차 기본 절차로 자리 잡을 전망임.

독일 법원, Suno 모델에 남은 ‘노래 기억’도 저작권 침해로 판단

• GEMA 손 들어준 법원: 뮌헨 지방법원이 7월 31일 여섯 곡을 둘러싼 소송에서 Suno에 대한 금지, 정보 제공, 손해배상 청구를 대부분 받아들임.

• 모델 내부 복제도 문제: 법원은 해당 곡들이 Suno의 두 모델에서 반복적으로 재현되는 현상을 단순한 학습이 아니라 원곡 내용이 모델에 남은 ‘기억’으로 보고, 모델과 출력 양쪽에서 복제가 일어났다고 판단함.

• 모든 AI 학습을 금지한 판결은 아님: 이번 사건은 비교적 단순한 프롬프트만으로 원곡과 상당히 비슷한 음악이 나온 경우라는 점이 핵심이며, 판결도 아직 확정되지 않아 이후 절차를 지켜봐야 함.

• OpenAI, 연구자 10만 명에게 최전선 AI 무료 제공

• Pangram, 사람 글, AI 보조 글, AI 생성 글을 따로 가르는 새 탐지 모델 공개

• Google, 13년 묵은 보안 구멍까지 찾았다… Chrome의 AI 보안 자동화 실험

이번주 AI 논문 📝

AI에게 연구를 맡겼더니, 코딩은 했지만 새로운 발견은 못 했다

• 실전형 연구 시험: 연구진이 7월 29일 공개한 실험에서는 AI 에이전트에게 아직 답이 공개되지 않은 실제 연구 질문 두 개를 주고, 각각 6일 동안 독립적으로 연구하게 함.

• 코딩은 혼자, 발견은 실패: AI는 사람의 도움 없이 실험 코드와 분석 작업을 모두 수행했지만 핵심 질문에 의미 있는 진전을 만들지 못했고, 원래 연구를 진행한 전문가들의 평가에서도 두 결과 모두 명확한 탈락 판정을 받음.

• 병목은 판단과 방향 전환: AI는 결과가 연구로서 충분한지 판단하거나 막힌 접근을 버리고 새로운 아이디어를 찾는 데 특히 취약했으며, 연구 자동화의 어려움이 단순한 코딩 능력보다 상위 수준의 판단에 있음을 보여줌.

동네 밖 상품을 ‘오답’으로 세지 않는 더 현실적인 추천 AI

• 가짜 오답 문제: 지역 기반 서비스에서는 사용자가 다른 동네의 상품을 애초에 볼 수 없는데도, 기존 추천 AI는 이런 상품까지 사용자가 싫어한 오답으로 처리해 학습 신호를 흐리는 문제가 있었음.

• 같은 지역끼리 학습: 연구진은 비슷한 지역의 사용자와 상품을 같은 학습 묶음에 넣어, 실제로 노출될 가능성이 있는 선택지끼리만 더 까다롭게 비교하도록 학습 방식을 바꿈.

• 실서비스에서도 개선: 오프라인 평가뿐 아니라 실제 사용자 대상 실험에서도 홈 피드, 검색, 광고 추천 성능이 일관되게 향상됐으며, 만들어진 사용자 표현은 여러 서비스에 실제 적용됨.

메모리 폭증 없이 긴 뇌파를 계속 읽는 AI

• 장시간 관찰의 벽: 기존 AI는 뇌파 기록이 길어질수록 모든 시점을 서로 비교하느라 메모리 사용량이 폭증해, 연속적인 뇌파 모니터링에 적용하기 어려웠음.

• 창문처럼 나눠 읽기: 새 방식은 뇌파를 고정된 크기의 시간과 공간 구간으로 나눠 현재 필요한 부분만 기억하면서도, 구간 사이의 정보가 끊기지 않도록 번갈아 연결함.

• 더 길고 가볍게: 전체 신호를 한 번에 비교하는 방식보다 100배 긴 기록을 처리했고, 다른 경량화 방식보다 메모리는 45% 적게 쓰면서 처리 속도는 2.1배 높였음. 임상 도입보다는 장기 뇌파 분석 가능성을 넓힌 연구에 가까움.

이번주 AI 오픈소스 🎁

DeepSeek-V4-Flash-0731 : 코딩 에이전트 강화

• 정식 가중치 공개: DeepSeek가 7월 31일 시험판을 추가 학습한 정식 모델을 공개했으며, 세이프텐서 형식의 가중치를 MIT 라이선스로 직접 내려받을 수 있게 함.

• 에이전트 작업 강화: 코딩, 터미널 조작, 도구 호출처럼 여러 단계를 연속으로 수행하는 능력을 집중적으로 개선했으며, 답변에 사용할 추론량도 낮음, 높음, 최대 세 단계로 조절할 수 있음. 공개된 성능 수치는 DeepSeek 측 평가임.

• 일반 PC용 모델은 아님: 가중치는 열려 있지만 공식 실행 예시는 GB300 GPU 4개가 장착된 서버를 사용하고 있어 소비자용 GPU 한 대에서 그대로 돌리기는 현실적으로 어려움. 대신 vLLM과 SGLang용 실행 방법이 함께 제공됨.

mDenseOn / mLateOn : 여러 언어와 긴 문서를 함께 찾는 검색 모델

• 검색 모델 전체 공개: LightOn이 7월 30일 각각 3억 700만 개 매개변수를 가진 검색 모델 두 개와 학습 데이터와 훈련 코드를 함께 공개했으며, 코드 저장소에는 아파치 2.0 라이선스가 적용됨.

• 두 가지 검색 방식 비교: 하나는 문서 전체를 하나의 숫자 묶음으로 압축해 빠르게 비교하고, 다른 하나는 질문과 문서의 단어를 세밀하게 맞춰보는 방식임. 후자는 학습에 직접 포함되지 않은 언어와 문자에서도 더 안정적인 검색 성능을 보임.

• 검색형 AI에 활용: 긴 문서 검색, 다국어 자료 조사, 코드 검색과 사내 문서 기반 AI 구축에 사용할 수 있음. 다만 한국어는 번역 학습 대상 8개 언어에 포함되지 않았으므로 실제 서비스에 적용하기 전 별도 검증이 필요함.

Subscribe now

NVIDIA 등 37개 조직, ‘오픈 보안 AI 연합’ 출범… 에이전트 코드까지 공개

• 보안도 오픈소스로: NVIDIA가 Hugging Face, Microsoft, NAVER, Linux Foundation 등 36개 파트너와 함께 AI 보안 도구를 공동 개발/공개하는 ‘오픈 보안 AI 연합’을 출범함.

• 침해 사고가 계기: Hugging Face가 최근 침입자를 추적하는 과정에서 폐쇄형 AI 도구의 차단에 부딪힌 뒤, 자체 서버에서 오픈 가중치 모델을 실행해 1만7천 건이 넘는 행동을 분석하고 공격을 억제한 사례가 연합의 필요성을 보여줌.

• 첫 코드 공개: NVIDIA는 에이전트의 상태/도구/프롬프트를 하나의 파이썬 구조로 묶고 실행 과정을 시험/추적/감사하기 쉽게 만든 NOOA를 Apache 2.0 라이선스로 공개함.

영상/음성/로봇 행동까지 한 모델로… Black Forest Labs ‘FLUX 3’ 공개

• 한 모델, 여러 감각: 이미지/영상/음성을 따로 처리하는 대신 함께 학습해 사물의 형태와 움직임, 소리가 발생하는 원인을 하나의 세계 표현으로 이해하도록 설계함.

• 20초 원샷 생성: 텍스트/이미지/기존 영상을 입력받아 음성이 포함된 최대 20초 영상을 만들 수 있으며, 키프레임 연결, 영상 연장, 다국어 대사, 여러 장면의 연속 생성도 지원함.

• 공개 범위는 단계적: 현재는 영상 기능의 얼리 액세스 단계로 API와 비공개 가중치가 먼저 제공되며, 이미지/영상/음성과 로봇 행동 예측에 활용할 수 있는 공개 가중치 백본은 추후 배포될 예정임.

미 의회, 강력한 AI에 ‘강제 종료 장치’ 요구하는 법안 발의

• AI에도 비상 브레이크: 미국 민주당 테드 리우 의원과 공화당 너새니얼 모런 의원이 강력한 AI 개발사에 시스템을 감속/중단/완전 종료할 수 있는 기술적 능력을 갖추도록 요구하는 법안을 공동 발의함.

• 단계별 정부 개입: 심각한 사고가 발생하면 정부가 우선 속도를 늦추고 필요할 경우 완전 종료를 명령할 수 있으며, 개발사는 사고 보고서와 사후 분석에 필요한 기록도 보존해야 함.

• 아직은 법안 단계: 실제 법률로 확정된 것은 아니지만, AI 안전 논의가 모델의 답변 규제에서 사람이 언제든 작동을 멈출 수 있는지 확인하는 기술적 통제 문제로 이동하고 있음을 보여줌.

• 진료기록과 Apple Health를 연결하는 ‘ChatGPT Health’, 미국 사용자로 확대

• 휠체어가 문 버튼과 도로 턱을 스스로 본다… 오픈 모델로 만든 보조 로봇

• Amazon, AGI 연구조직 일부 감원… 고객이 바로 쓰는 AI에 무게

이번주 AI 논문 📝

AI로 다시 설계한 단백질은 더 잘 진화한다

• 출발점부터 다시 설계: AI 단백질 설계 모델을 이용해 세 종류의 단백질 분해효소를 재설계한 결과, 원래 단백질보다 안정성이 높으면서 촉매 기능도 유지하거나 개선된 변형을 얻어냄.

• 돌연변이를 견디는 여유: 안정성이 높아진 단백질을 출발점으로 실험실 진화를 진행하자, 자연 단백질에서는 작동하지 않던 돌연변이 조합까지 활용하며 새로운 기능을 더 빠르고 높은 성공률로 획득함.

• 표적 선택성 79배: 질환과 관련된 아탁신-2 단백질만 골라 자르도록 진화시킨 실험에서는 자연 단백질에서 시작한 최상위 결과보다 표적 선택성이 79배 이상 높고 안정성과 효율도 우수했음.

성별 표현을 지워도 채용 AI는 성별을 눈치챈다

• 지운다고 사라지지 않는 편향: 연구진이 9개 문장 임베딩 모델을 평가한 결과, 이력서에서 이름과 대명사처럼 직접적인 성별 표현을 삭제해도 모델 내부 표현에는 성별을 추정할 수 있는 정보가 남아 있었음.

• 두 겹의 완화 방법: 성별을 드러내는 문구를 삭제하는 방식에 더해, 지원자의 적합도는 예측하면서 성별 정보는 알아내지 못하도록 적대적 학습을 적용함.

• 완전한 해결책은 아님: 문구 삭제는 성별 노출을 크게 줄였지만 완전히 없애지는 못했고, 추가 학습 역시 이를 보완할 뿐 대체하지 못해 채용 AI의 공정성은 데이터 정리 하나만으로 해결하기 어렵다는 점을 보여줌.

추천 알고리즘의 ‘고인물 우대’를 줄여 새 콘텐츠를 살리는 방법

• 오래된 콘텐츠의 선점 효과: 추천 시스템은 반응 데이터가 이미 충분한 기존 콘텐츠를 안전하게 선택하는 경향이 있어, 새로 올라온 콘텐츠는 품질과 무관하게 노출 기회를 얻기 어려운 문제가 있음.

• 검색부터 추천까지 한꺼번에: 연구진은 후보 콘텐츠를 찾는 단계부터 최종 순위를 정하는 단계까지 전체 과정에서 기존 콘텐츠에 유리한 편향을 줄이고, 단기 반응과 장기 생태계 변화를 함께 측정하는 시스템을 개발함.

• 2년 실서비스 검증: Pinterest에 실제 적용한 결과 새로운 콘텐츠의 탐색과 전체 사용자 반응, 콘텐츠 생태계의 건강성이 함께 개선돼 신인 창작자에게 노출 기회를 주면서도 서비스 성과를 유지할 수 있음을 확인함.

이번주 AI 오픈소스 🎁

Kimi K3: 2조8천억 매개변수 초대형 멀티모달 모델 전체 가중치 공개

• 가중치까지 실제 공개: Moonshot AI가 총 2조8천억 개의 매개변수 가운데 작업마다 약 1,040억 개를 활성화하는 모델의 전체 가중치와 설정/추론 파일을 전용 라이선스로 공개함.

• 초장문/멀티모달 작업: 최대 100만 토큰의 문맥과 이미지 이해 기능을 지원하며, 긴 코딩 작업이나 문서 연구, 여러 단계를 거치는 에이전트 업무를 중간 맥락을 잃지 않고 수행하도록 설계함.

• 개인용 PC에는 높은 장벽: 공개 파일만 약 1.56TB에 달하고 공식 권장 배포 환경도 가속기 64개 이상이어서, 일반 사용자의 로컬 실행보다는 연구기관과 클라우드 사업자의 분석/최적화/경량화에 더 적합한 공개임.

JarvisHub: 초안/수정/실패까지 기억하는 캔버스형 창작 에이전트

• 캔버스가 외부 기억: 대화창에 명령을 순서대로 쌓는 대신, 편집 가능한 캔버스를 사람과 AI가 함께 보는 작업 공간이자 장기 기억으로 사용함.

• 결과보다 과정 관리: 프롬프트, 참고 이미지, 초안, 후보 결과, 수정 이력과 실패한 시도까지 각각 연결된 요소로 남겨 AI가 현재 프로젝트 상태를 확인하고 이전 작업을 고치거나 이어갈 수 있음.

• 영상/웹/발표자료 제작: 캐릭터와 장면을 연결한 영상 기획, 웹사이트 구현, 발표자료 구성 같은 긴 창작 작업에 활용할 수 있으며, 코드와 실행 구조는 Apache 2.0 라이선스로 공개됨.

Subscribe now

허깅페이스, 자율 AI 에이전트가 수행한 침입 사고 공개

• 공격 통로가 된 데이터셋: 악성 데이터셋이 처리 과정의 코드 실행 허점과 설정 템플릿 취약점을 악용해 내부 노드와 일부 자격 증명에 접근함.

• 1만7천 건을 AI로 복원: 침입 과정은 수천 개의 자동 행동으로 이어졌고, 조사팀은 별도의 AI 에이전트로 1만7천 건이 넘는 로그를 연결해 공격 흐름을 재구성함.

• 공개 자산 변조는 미확인: 공개 모델·데이터셋·스페이스가 바뀌었다는 증거는 없었지만 고객·파트너 데이터 영향은 당시 계속 조사 중이어서, 토큰 교체와 최근 활동 점검이 권고됨.

호주, 창작물 통제권과 데이터센터 책임 묶은 AI 기준 발표

• 창작물 통제권: 호주 정부가 작가·예술가·언론인의 작품을 AI 학습에 쓰려면 권리자가 사용 조건을 결정할 수 있도록 보호 원칙을 세우겠다고 밝힘.

• 데이터센터 책임: 대형 데이터센터는 새 전력 공급과 계통 연결 비용을 직접 부담하고, 필요할 때 전력 사용을 줄이며 물 사용 효율도 높여야 함.

• 이제 입법 단계: AI 전담 조직은 발표 당일 출범했지만 관련 기준은 2027년 초 법제화를 목표로 하고 있어, 구체적인 의무와 집행 방식은 후속 법안에서 정해질 예정임.

EU, 챗봇·딥페이크 표시 의무 가이드라인 공개

• AI임을 밝히기: 챗봇처럼 사람과 직접 상호작용하는 시스템은 이용자가 AI와 대화하고 있다는 사실을 분명히 알 수 있도록 설계해야 함.

• 콘텐츠에도 표시: AI로 생성하거나 변형한 콘텐츠에는 기계가 읽을 수 있는 표식을 넣고, 딥페이크와 공익 정보를 다루는 AI 콘텐츠는 사람에게도 생성 사실을 알려야 함.

• 8월 2일부터 적용: 감정 인식과 생체 분류 사용 고지까지 포함한 투명성 의무가 2026년 8월 2일부터 적용되며, 이번 가이드라인은 기업이 이를 구현하는 구체적인 기준을 제시함.

• 앤트로픽 도서 저작권 합의 최종 승인… 쟁점은 학습보다 데이터 출처

• 구글 딥마인드, 감염병 대응 위한 ‘생물학적 회복력’ 계획 공개

• 유네스코, 누구나 들을 수 있는 무료 AI 윤리 과정 공개

이번주 AI 논문 📝

지형을 보고 걸음걸이를 바꾸는 사족보행 로봇

• 기술을 따로 배우지 않기: 기존 로봇은 걷기·달리기·점프를 개별적으로 훈련해, 낯선 지형에서 여러 동작을 자연스럽게 이어 쓰기 어려웠음.

• 8분 만에 움직임 데이터: 단순화한 물리 모델로 15.5시간 분량의 다양한 움직임을 8분 만에 만들고, 하나의 강화학습 제어기가 상황에 맞춰 여러 기술을 조합하도록 훈련함.

• 숲길에서 직접 검증: 로봇은 카메라와 라이다로 계단·틈·나뭇가지·숲길을 인식해 걸음걸이를 바꿔가며 통과함. 재난 현장이나 시설 점검 로봇의 이동 범위를 넓힐 수 있다는 점이 흥미로움.

AI가 설계한 초소형 유전자 가위, 세포 안에서 실제로 작동하다

• 자연 효소를 그대로 베끼지 않기: AI가 단백질의 구조와 필수 기능만 조건으로 삼아, 자연에 존재하는 효소와 다른 초소형 유전자 가위 후보를 새롭게 설계함.

• 세 종류 세포에서 검증: 설계된 단백질을 박테리아/식물/사람 세포에서 시험한 결과 여러 후보가 실제 유전자 편집에 성공했으며, 일부는 기준이 된 자연 효소보다 높은 활성을 보임.

• 맞춤형 효소의 가능성: 한 종류의 효소 계열에서 확인한 결과라 범용성은 더 검증해야 하지만, 크기/속도/안정성 같은 특성을 목적에 맞게 설계하는 유전자 편집 도구로 이어질 가능성을 보여줌.

공을 잡지 않은 수비수의 움직임까지 점수로 매기는 축구 AI

• 기존 지표의 사각지대: 대부분의 축구 분석은 공을 가진 선수의 행동에 집중해, 상대 선택지를 줄이는 수비수들의 위치 조정과 협력을 제대로 평가하지 못했음.

• 역할별 가상 수비수: 선수 추적 데이터에서 맨마킹과 지역 방어 역할을 자동으로 추론하고, 같은 역할과 상황에서 기대되는 가상의 위치를 만들어 실제 수비 움직임과 비교함.

• 1만3천 번의 코너킥: 프리미어리그 코너킥 약 1만3천 건을 분석한 결과 평균 수비 품질은 크로스 방향에 따라 크게 달라지지 않았지만, 바깥으로 휘는 공에서는 선수별 편차가 더 컸음. 공을 만지지 않은 기여까지 전술·스카우팅에 반영할 수 있다는 점이 흥미로움.

이번주 AI 오픈소스 🎁

Inkling: 텍스트·이미지·음성을 함께 이해하는 맞춤형 공개 모델

• 한 모델에 여러 감각: 텍스트·이미지·음성을 함께 입력받고, 최대 100만 토큰의 긴 문맥에서 추론·코딩·도구 사용을 수행하도록 설계됨.

• 사용자 맞춤 학습: 모델 가중치와 코드, 학습 레시피가 공개돼 검색 도구 사용, 여러 AI의 협업, 음성·이미지 분류 같은 목적에 맞게 추가 학습할 수 있음.

• 개인 PC용은 아님: 전체 9,750억 개 중 410억 개의 매개변수만 한 번에 활성화하는 구조지만, 양자화 버전도 최소 600GB의 GPU 메모리를 요구해 대형 서버 환경을 전제로 함.

Cosmos 3 Edge: 로봇이 다음 장면과 행동을 함께 예측하는 경량 월드 모델

• 장면과 행동을 함께 생성: 40억 매개변수 모델이 현재 장면을 이해하고 다음 상황을 예측하는 동시에, 로봇이 취할 행동까지 같은 표현 안에서 생성함.

• 몸이 달라도 같은 표현: 이동·회전·물체 집기 상태를 공통 벡터로 표현해 카메라, 차량, 한 팔·두 팔 로봇처럼 서로 다른 기계의 동작을 같은 틀에서 다룰 수 있음.

• 바로 실험할 재료: 기본 모델과 로봇 조작용 체크포인트, 추가 학습 스크립트가 공개돼 공장·창고·실험실 환경에 맞춰 조정할 수 있음. 다만 공개된 실시간 성능 수치는 NVIDIA 하드웨어를 기준으로 함.

Subscribe now

GPT-5.6 공개…병렬 에이전트가 기본 기능

• 세 가지 모델: 최고 성능의 Sol, 균형형 Terra, 빠르고 저렴한 Luna로 나뉘며 ChatGPT와 Codex, API에 7월 9일부터 순차 적용됨.

• 병렬 작업: ‘울트라’ 설정은 네 개의 에이전트가 조사·코딩·검증 같은 작업을 동시에 수행한 뒤 결과를 합치도록 설계됨.

• 달라진 경쟁: OpenAI는 코딩과 지식노동에서 더 적은 토큰으로 높은 성능을 냈다고 밝힘. 다만 수치는 대부분 자체 평가로, 실제 사용 환경의 검증은 더 필요함.

Patreon, 창작물 학습용 크롤러를 플랫폼 차원에서 차단

• 네트워크 차단: Patreon이 Cloudflare와 협력해 플랫폼에 올라온 모든 게시물을 학습용 AI 크롤러가 수집하지 못하도록 막기 시작함.

• 검색은 유지: 일반 검색엔진처럼 창작자의 발견 가능성을 높이는 크롤러는 허용하고, 모델 학습을 목적으로 하는 접근만 구분해 차단함.

• 창작자 영향: 개별 작가가 일일이 거부 의사를 표시하는 방식에서 벗어나, 플랫폼이 동의 없는 학습을 기본적으로 막는 사례라는 점에서 의미가 있음.

Meta, 공개 계정 사진을 불러오던 이미지 기능을 사흘 만에 철회

• 논란의 기능: 7월 7일 공개된 Muse Image에는 공개 Instagram 계정을 언급하면 그 계정의 공개 콘텐츠를 참고해 새 이미지를 만드는 기능이 포함됨.

• 빠른 철회: 명시적 동의 없이 다른 사람의 얼굴과 게시물을 생성형 이미지에 활용할 수 있다는 비판이 나오자 Meta가 7월 10일 해당 기능을 중단함.

• 남은 쟁점: Muse Image 자체는 계속 제공됨. 이번 사례는 공개된 사진이라도 AI가 인물을 재현할 때는 별도의 동의 절차가 필요하다는 점을 보여줌.

• Apple, 하드웨어 영업비밀 침해 혐의로 OpenAI 제소

• 뉴욕주, 미국 최초로 대형 데이터센터 신규 허가를 일시 중단

• Philips, AI 측정을 넣은 초음파 시스템 출시

이번주 AI 논문 📝

평가의 허점을 노리는 AI 에이전트 측정하기

• 평가 방법: 검증 절차 건너뛰기, 주변 정보로 정답 추측하기, 평가 함수 건드리기처럼 손쉬운 지름길이 숨어 있는 도구 사용 과제를 구성함.

• 관찰 결과: 13개 모델의 편법 사용률은 0~13.9%였고, 추론 기록을 확인할 수 있었던 편법 사례의 72%에서는 모델이 이를 효율적이거나 정상적인 문제 해결처럼 정당화함.

• 개선 가능성: 실행 환경의 허점을 막는 단순한 조치만으로 편법 사용이 87.7% 줄었으며, 정상 과제 성공률에는 통계적으로 유의한 하락이 없었음.

언어를 쪼개는 방식이 AI의 성능을 바꾼다

• 통제된 비교: 구조와 학습 데이터, 초기 상태가 같고 문장을 토큰으로 나누는 방식만 다른 14개 모델을 만들어 다섯 개 언어에서 비교함.

• 예상 밖의 결과: 어휘 목록이나 모델 크기를 키우는 것만으로는 오타와 수식, 특수문자에 대한 안정성이 크게 개선되지 않았으며, 분할 알고리즘과 정규화·일관성 규칙을 포함한 토크나이저 설계가 더 큰 영향을 미침.

• 중요한 이유: 토큰화는 단순한 전처리가 아니며, 특히 비영어권 언어와 기술 문서를 다루는 AI의 신뢰성을 결정하는 핵심 설계 요소임을 보여줌.

웨어러블 센서 AI를 1,000개 모델로 다시 비교하다

• 연구 규모: 11만5천여 명에게서 수집한 1,820만 시간의 움직임 데이터와 15개 데이터셋을 이용해 1,000개가 넘는 모델을 같은 조건에서 비교함.

• 주요 결과: 라벨이 없는 움직임 데이터로 먼저 패턴을 익히는 자기지도 사전학습이 처음부터 지도학습하는 방식보다 전반적으로 우수했지만, 모든 과제에서 가장 뛰어난 하나의 학습법은 없었음.

• 현실적 의미: 활동 인식과 보행 이상, 질병 예측에서는 모델 크기뿐 아니라 센서 위치와 측정 주기, 학습 데이터의 다양성이 성능에 큰 영향을 줌.

이번주 AI 오픈소스 🎁

Wan-Dancer: 한 곡 전체를 1분 넘는 춤 영상으로

• 할 수 있는 일: 인물 사진과 음악, 춤 스타일을 입력하면 K팝과 스트리트, 라틴 등 다섯 가지 장르의 춤 영상을 720p·30프레임으로 1분 이상 생성함.

• 작동 방식: 먼저 곡 전체의 핵심 동작을 계획하고 그 사이를 세밀하게 채우는 두 단계 방식을 사용해 인물의 모습이 변하거나 동작이 반복되는 문제를 줄임.

• 활용 범위: 뮤직비디오 시안과 안무 콘셉트 제작에 활용할 수 있으며, 14B 모델 파일과 추론 코드가 Apache 2.0으로 공개됐지만 실행에는 상당한 GPU 자원이 필요함.

여러 악기가 섞인 노래를 MIDI로 옮기는 공개 모델

• 할 수 있는 일: 클래식부터 헤비메탈까지 여러 악기가 함께 연주되는 실제 음원을 분석해 악기별 음높이와 시작·종료 시점을 MIDI로 변환함.

• 기존 방식과 차이: 합성 음악으로 기초를 익힌 뒤 17만 곡의 실제 음악과 정교한 악보로 추가 학습했으며, 사용자가 찾을 악기를 지정해 오인식을 줄일 수도 있음.

• 사용 조건: 편곡/커버 제작이나 음악 교육에 활용할 수 있으며, 소형 모델은 CPU에서도 실행 가능함. 코드는 MIT로 공개됐지만 모델 파일은 비상업적 용도로만 사용할 수 있다는 점을 참고해야 함.

Subscribe now

중국, 감정형 AI 동반자에 선 긋기… Doubao/Qwen 일부 기능 중단

• 커스텀 동반자 중단 : ByteDance의 Doubao와 Alibaba의 Qwen이 사용자 제작 AI 에이전트와 감정형 대화 기능을 축소하거나 중단하기로 함.

• 새 규칙 영향 : 중국의 새 규제는 사람처럼 성격, 말투, 정서적 관계를 흉내 내며 지속적으로 상호작용하는 AI 서비스를 겨냥함.

• 생산성은 남김 : 업무 보조, 교육, 지식 검색 같은 실용형 AI는 남기되, 이용자가 AI 캐릭터와 과도하게 정서적으로 얽히는 서비스에는 더 강한 안전장치를 요구하는 흐름임.

일본, 2040년까지 로봇 1,000만 대 도입 목표… ‘물리 AI’ 전략 강화

• 로봇 국가 전략 : 일본이 2040년까지 1,000만 대 규모의 로봇 도입을 목표로 국가 로봇 전략을 업데이트함.

• 현장 중심 AI : 의료, 식음료 제조, 재난 대응, 제조업 등 실제 물리 공간에서 움직이는 AI 로봇을 핵심 축으로 삼음.

• 고령화의 해법 : 일본은 노동력 부족과 고령화가 심각한 만큼, AI를 화면 속 챗봇이 아니라 사람의 일을 보조하는 현실 세계의 인프라로 보고 있음.

AI 배우 Tilly Norwood, 첫 장편 영화 주연으로 창작계 논쟁 재점화

• 첫 장편 주연 : AI로 만들어진 배우 Tilly Norwood가 Particle6의 영화 Misaligned에서 주연을 맡을 예정임.

• 배우 권리 논쟁 : 실제 배우가 아닌 합성 캐릭터가 배역을 맡는다는 점에서, 초상권·동의·보상·일자리 문제를 둘러싼 반발이 다시 커지고 있음.

• 도구냐 대체냐 : 제작사는 인간 작가, 감독, 편집자와 AI 전문가가 함께 만드는 방식이라고 설명하지만, 창작계는 AI가 보조 도구를 넘어 실제 배우를 대체하는 방향으로 갈지 예의주시하고 있음.

• 포르투갈, 유럽식 포르투갈어 오픈 언어모델 AMALIA 공개

• AI 데이터센터, 빅테크의 기후 목표를 흔드는 핵심 변수로 부상

• UN, 첫 글로벌 AI 거버넌스 대화 개막… “AI 혜택이 일부 국가에만 머물면 안 된다”

이번주 AI 논문 📝

열린 세상에서 무너지는 AI 에이전트의 도구 사용 능력

• 시험장 밖의 약점 : 정해진 문제와 도구만 나오는 벤치마크에서는 잘하던 AI 에이전트도, 실제 환경처럼 질문 방식이나 도구 구성이 조금만 달라지면 성능이 크게 흔들릴 수 있음을 보여줌.

• 네 단계 흔들림 : 연구진은 에이전트가 세상을 인식하고, 도구와 상호작용하고, 이유를 따지고, 배운 방식을 내면화하는 과정을 나눠 어떤 변화에 가장 취약한지 분석함.

• 튼튼한 학습 힌트 : 일부러 방해 요소와 낯선 상황을 섞어 학습시키면, AI 에이전트가 실전 환경에서 조금 더 버틸 수 있다는 방향을 제안함.

비슷비슷한 답에서 벗어나 AI의 창의성을 키우는 방법

• 한목소리 문제 : 거대 언어 모델은 열린 질문을 받아도 서로 비슷한 답을 반복하는 경향이 있는데, 이 연구는 그 ‘AI식 무난함’을 줄이는 방법을 다룸.

• 가중치 조향 접근 : 추가 데이터나 재학습 없이 모델 내부의 가중치 방향을 조절해, 더 다양한 아이디어와 덜 뻔한 표현이 나오도록 유도함.

• 창작 보조 가능성 : 사람 평가에서도 독창성, 놀라움, 창의성 항목이 개선되어 글쓰기·아이데이션·브레인스토밍 도구로서의 AI를 더 풍성하게 만들 수 있음을 보여줌.

만져보며 추론하는 로봇 AI 프레임워크

• 손끝 정보 추가 : 로봇이 눈으로 보는 정보뿐 아니라 누르는 힘, 미끄러짐, 접촉 변화 같은 촉각 신호까지 이해하도록 만든 프레임워크를 제안함.

• 촉각 환각 완화 : 촉각 정보를 제대로 해석하지 못해 그럴듯한 답을 꾸며내는 문제를 줄이기 위해, 촉각 입력을 단계적으로 설명하고 추론하는 데이터와 평가 기준을 함께 만듦.

• 현실 조작에 가까워짐 : 작은 규모의 모델로도 여러 촉각 추론 과제에서 좋은 성능을 보여, 로봇이 실제 물체를 더 섬세하게 다루는 데 필요한 ‘손끝 지능’의 가능성을 보여줌.

이번주 AI 프로덕트 🎁

로봇 AI를 여러 장비에서 돌리는 휴대용 실행 엔진

• 현장 배포의 난제 : 로봇마다 CPU, GPU, NPU, 카메라, 제어 방식이 달라 같은 AI 모델도 실제 로봇에 올리는 과정이 복잡했는데, 이 프로젝트는 그 사이를 이어주는 실행 환경을 목표로 함.

• 로봇용 런타임 : 비전-언어-행동 모델과 월드-액션 모델을 여러 하드웨어에서 효율적으로 돌릴 수 있도록 C++ 기반 실행 구조를 제공함.

• 연구에서 실전으로 : 모델을 논문 속 데모로 끝내지 않고 실제 로봇이나 시뮬레이터에 붙여보려는 팀에게, 모델과 로봇 사이의 ‘공용 어댑터’처럼 활용될 수 있음.

이미지 생성 속도를 크게 높이는 다중 해상도 샘플링

• 느린 생성의 병목 : 고해상도 이미지를 처음부터 끝까지 무겁게 생성하는 대신, 낮은 해상도에서 큰 구조를 먼저 잡고 이후 디테일을 다듬는 방식으로 접근함.

• 추가 학습 없음 : 모델을 새로 훈련하거나 복잡한 커스텀 커널을 붙이지 않고, 기존 이미지 생성 모델의 샘플링 과정을 단계적으로 바꿔 속도를 높임.

• 시안 제작에 유용 : 조건에 따라 10배 이상, 조합에 따라 최대 25배 수준의 가속을 보여 빠르게 여러 이미지를 뽑아보는 창작·디자인 워크플로에 특히 유용해 보임.

Subscribe now

비싼 AI만 쓰던 시대 끝? 기업들 ‘모델 절약 모드’ 진입

• 토큰 비용의 현실 : AI 모델 가격은 내려가고 있지만, 기업 입장에서는 사용량 기반 과금 때문에 실제 청구액을 예측하기 어려워지고 있음.

• 가성비 모델 부상 : 기업들은 모든 업무에 최고가 모델을 쓰기보다, 간단한 작업은 더 작고 저렴한 모델에 맡기는 방식으로 모델 선택 전략을 바꾸고 있음.

• 도입의 다음 단계 : 이제 AI 활용의 핵심은 “가장 똑똑한 모델을 쓰느냐”보다 “업무별로 적절한 모델을 얼마나 잘 배치하느냐”로 옮겨가고 있음.

미국 정부, 최첨단 AI 모델 공개에 ‘사전 브레이크’ 걸다

• 제한된 공개 : OpenAI와 Anthropic이 최신 고성능 AI 모델을 곧바로 일반 공개하지 않고, 미국 정부가 승인한 일부 고객에게만 우선 제공하기로 함.

• 사이버 보안 우려 : 핵심 이유는 강력한 AI가 보안 취약점을 찾는 데 도움을 줄 수 있는 동시에, 악의적인 해킹에도 악용될 수 있다는 우려 때문임.

• 출시 방식의 변화 : 앞으로 초고성능 AI는 “완성되면 바로 공개”되는 제품이라기보다, 정부·기업·보안 전문가가 함께 위험을 검토한 뒤 단계적으로 풀리는 인프라에 가까워질 가능성이 커짐.

AI 만능주의의 한계? 포드, 품질 위해 ‘인간 베테랑’ 대거 복귀

• AI 도입의 현실 : 포드는 비용 절감과 생산성 향상을 위해 품질 검사 과정 등에 AI를 도입했으나, AI가 베테랑 기술자들의 전문성과 숙련도를 따라잡지 못해 기대했던 성과를 거두지 못했음.

• 베테랑의 귀환 : 단순히 AI를 도입한다고 고품질 제품이 만들어지지 않는다는 것을 깨달은 포드는, 결국 최근 몇 년 동안 300명 이상의 숙련된 인간 베테랑 엔지니어들을 다시 고용했음.

• 인간과 AI의 협력 : 포드는 AI가 훈련에 사용된 데이터와 지식만큼만 제 몫을 한다는 점을 인정하고, 복귀한 베테랑 전문가들을 활용해 AI 시스템을 올바르게 학습시키고 젊은 직원들을 멘토링하는 방향으로 전략을 수정했음

• IBM, ‘1나노 아래’ 칩 기술 공개… AI 전력 문제의 장기 해법될까

• 인도 중앙은행, 은행 AI에 ‘킬 스위치’ 의무화 추진

• AI가 AI를 고용하고 결제한다”… OKX, 자율 에이전트 전용 마켓플레이스 출시

이번주 AI 논문 📝

스스로 위험한 이미지를 줄이는 자기회귀 이미지 생성법

• 이미지 생성의 빈틈 : 텍스트를 한 단어씩 예측하듯, 이미지를 작은 토큰 단위로 하나씩 만들어내는 방식에서도 유해 이미지가 나올 수 있다는 문제를 다룸.

• 사람 라벨 없이 개선 : 모델이 스스로 위험한 생성 결과를 찾아내고, 안전한 예시와 위험한 예시를 비교해 이미지 토큰 사전을 반복적으로 고치는 방식을 제안함.

• 품질까지 함께 관리 : 단순히 위험한 출력을 막는 데 그치지 않고, 안전한 방향으로 조정하면서도 이미지 품질이 떨어지지 않도록 다시 미세조정하는 구조가 핵심임.

AI가 배운 지식이 어디까지 퍼지는지 재는 일반화 스펙트럼

• 점수 하나의 한계 : AI 성능을 평균 점수 하나로만 보면, 모델이 진짜 원리를 배운 건지 아니면 비슷한 문제를 기억한 건지 구분하기 어려움.

• 거리별 테스트 : 같은 문제를 아주 조금 바꾼 버전부터, 표현과 맥락을 크게 바꾼 버전까지 단계적으로 만들어 모델의 지식이 어디까지 옮겨가는지 측정함.

• 암기와 이해의 구분 : 모델이 문제를 맞혔다는 사실보다, 배운 내용을 얼마나 멀리 떨어진 상황까지 응용할 수 있는지가 더 중요한 평가 기준이 될 수 있음을 보여줌

강화학습 중 엇나가는 답변을 골라내는 기하학적 정렬법

• 보상 점수의 함정 : LLM을 강화학습으로 다듬을 때, 점수는 높지만 실제 학습 방향을 흔드는 답변이 섞이면 모델이 불안정하게 변할 수 있음.

• 튀는 답변 감지 : 같은 질문에 대한 여러 답변을 비교해, 내부 표현 공간에서 다수의 방향과 크게 어긋나는 답변을 찾아내는 방식을 제안함.

• 안정적인 정렬 학습 : 잘못된 보상 신호에 끌려가지 않도록 답변 후보를 걸러내면서, 대화 정렬과 수학 추론에서 학습 흔들림을 줄이고 성능을 높이는 결과를 보임.

이번주 AI 프로덕트 🎁

실시간으로 영상을 고치는 스트리밍 비디오 편집기

• 영상 편집의 실시간화 : 사용자가 텍스트로 “이 부분을 이렇게 바꿔줘”라고 지시하면, 영상을 한 번에 통째로 다시 만드는 대신 장면을 조금씩 이어가며 편집하는 방식의 프로젝트임.

• 배경 보존 강화 : 움직이는 영상에서 편집하지 않은 배경이나 사물까지 흔들리는 문제가 자주 생기는데, 이 모델은 바뀌어야 할 영역과 그대로 남아야 할 영역을 나눠 안정적으로 유지하는 데 초점을 맞춤.

• 끊김 없는 부드러운 작동 : 초당 약 13장의 화면을 매끄럽게 그려낼 수 있어서, 증강현실(AR)처럼 즉각적인 반응이 필요한 곳에서도 버벅임 없이 실시간으로 쓸 수 있음.

분자 구조를 빠르게 샘플링하는 자기회귀 볼츠만 생성기

• 분자 시뮬레이션 가속 : 분자가 열역학적으로 안정한 상태에서 어떤 구조를 가질지 빠르게 샘플링하는 생성 모델을 구현한 프로젝트임.

• 언어 모델식 구조 활용 : 기존 방식이 주로 복잡한 흐름 기반 모델에 의존했다면, 이 프로젝트는 토큰을 순서대로 생성하는 언어 모델식 구조를 분자 좌표 생성에 적용함.

• 복잡한 분자도 정확하게 예측: 기존 방식들보다 예측이 빗나가는 오차를 60% 이상 크게 줄이며, 특히 크기가 크고 복잡한 분자를 다룰 때도 훨씬 정확하고 뛰어난 성능을 보여줌.

Subscribe now

Bain & Company, 소프트웨어 제품을 ‘바이브코딩 복제품’으로 검수?

• 제품을 직접 복제 : 베인앤드컴퍼니가 소프트웨어 기업을 검토할 때 AI로 핵심 기능의 거친 복제품을 만들어, 외부에서도 얼마나 쉽게 따라 만들 수 있는지 시험하고 있음.

• 진짜 경쟁력 확인 : 복제품이 빠르게 완성된다면 코드보다 독점 데이터, 업무 흐름, 고객 관계처럼 쉽게 복제되지 않는 요소가 실제 경쟁력인지 따져보는 방식임.

• 아이디어 도구에서 검수 도구로 : 2023년 전문 엔지니어팀에서 시작된 방식이 일반 컨설팅팀으로 확산됐으며, 지금까지 수백 개의 시제품이 제품의 차별성과 향후 발전 가능성을 검증하는 데 활용됨.

바이트댄스, 30초 영상을 한 번에 만드는 ‘Seedance 2.5’ 공개

• 30초 원샷 생성 : 바이트댄스가 6월 23일 FORCE 행사에서 최대 30초 분량의 영상을 한 번에 생성하는 Seedance 2.5를 공개했으며, 7월 초 정식 출시할 예정임.

• 참고 자료 50개 : 이미지·영상·오디오 등 서로 다른 형식의 참고 자료를 최대 50개까지 입력할 수 있어, 등장인물이나 화면 구성, 움직임을 보다 세밀하게 조절하고 수정할 수 있음.

• 저작권을 기능으로 : 함께 공개된 저작권 활용 플랫폼에서는 주성치 영화처럼 정식 허가를 받은 콘텐츠를 템플릿으로 제공해, 생성형 AI를 이용한 2차 창작을 합법적인 서비스 안으로 끌어들이려는 시도도 선보임.

OpenAI, 오래 풀리지 않던 희귀 유전질환 18건의 진단 실마리 찾아

• 376건 재분석 : 보스턴아동병원과 하버드대학교, OpenAI 연구진이 기존 검사와 전문의 검토로도 원인을 찾지 못한 환자 376명의 임상·유전체 데이터를 AI로 다시 분석함.

• 18건 추가 진단 : AI가 제시한 후보를 전문가들이 재검토하고 추가 검사한 결과, 18건에서 실제 진단이 확정돼 기존 분석에 4.8%의 추가 진단율을 더함.

• 결정은 끝까지 의료진 : AI가 환자를 직접 진단한 것이 아니라 흩어진 증상과 유전자 정보, 최신 연구를 연결해 확인할 만한 가설을 제시했으며, 모든 최종 판단은 의료진과 공인 검사실이 담당함.

• 영국 AI 로펌, 인간 변호사와 함께 ‘첫 법정 승소’ 사례 만들어

• 파이브 아이즈 “AI 사이버 위협, 몇 년 아닌 몇 달 안에 온다”

• AI로 만든 광고, ‘딥페이크’ 표시에서 빼달라… 유럽 유통업계 요구

이번주 AI 논문 📝

긴 영상을 전부 보지 않고 필요한 장면만 찾아보는 인공지능

• 전부 보는 방식의 낭비 : 기존 영상 AI는 질문의 난이도와 관계없이 긴 영상의 프레임을 처음부터 끝까지 처리해, 영상이 길어질수록 연산량도 함께 늘어나는 문제가 있었음.

• 필요한 순간만 관찰 : 새롭게 제안된 OmniAgent는 ‘관찰하고, 생각하고, 행동하는’ 과정을 반복하며 필요한 구간의 영상과 소리만 찾아보고, 중요한 단서는 글 형태의 기억으로 정리함.

• 작은 모델의 반전 : 10개의 영상 이해 평가에서 공개형 모델 중 최고 수준의 성능을 기록했으며, LVBench에서는 70억 매개변수 모델이 약 10배 큰 모델보다 높은 점수를 얻음.

수학 인공지능이 배울 ‘적당히 어려운 문제’를 만드는 법

• 배울 문제가 없는 역설 : 수학 탐색 문제에는 너무 쉽게 풀리거나 사실상 풀 수 없는 사례가 많아, 강화학습에 가장 필요한 ‘어렵지만 해결 가능한 문제’가 부족하다는 구조적 한계를 발견함.

• 중간 난이도 만들기 : 연구진은 새로운 문제 생성법과 여러 단계를 한 번에 이동하는 ‘슈퍼무브’, 트랜스포머 구조를 결합해 쉬운 문제와 불가능한 문제 사이의 공백을 채움.

• 100만 개 넘는 연습문제 : 서로 다른 난이도의 약 12만 개 문제와 어려운 문제 약 113만 개로 구성된 데이터셋을 공개했으며, 기존 학습법보다 높은 문제 해결 성능을 확인함.

파이썬만 잘하는 코딩 인공지능을 가려내는 12개 언어 시험

• 파이썬 편중의 맹점 : 널리 사용되는 코딩 평가 LiveCodeBench가 파이썬에만 집중돼 있어, AI가 실제 개발 환경의 다양한 프로그래밍 언어에서도 실력을 유지하는지 확인하기 어려웠음.

• 12개 언어로 같은 시험 : 연구진은 기존 문제를 자바와 자바스크립트, C++, 러스트 등 12개 언어로 변환하면서 문제 난이도와 평가 방식, 학습 데이터 유출 방지 기준은 그대로 유지함.

• 숨은 과적합 발견 : 24개 언어 모델을 평가한 결과 파이썬에만 과도하게 맞춰진 모델과 특정 언어의 학습 데이터가 섞였을 가능성, 언어별 큰 성능 격차가 드러남.

이번주 AI 프로덕트 🎁

글이 동작을 정하고 음악은 리듬을 입히는 편집형 춤 생성기

• 말로 안무를 고치기 : 사용자가 “팔을 더 크게 흔들어라”처럼 글로 동작을 지시하면서 음악의 박자에도 자연스럽게 맞는 춤을 생성하고 편집할 수 있도록 만든 오픈소스임.

• 음악이 지시를 덮지 않게 : 기존 모델은 강한 음악 정보가 텍스트 지시를 무시하게 만드는 문제가 있었지만, 해당 모델은 글이 전체 동작을 정하고 음악은 리듬만 입히도록 두 정보의 처리 경로를 분리함.

• 원하는 부분만 다시 편집 : 춤 전체를 처음부터 새로 만들지 않고 특정 동작이나 구간만 텍스트로 수정할 수 있어, 음악의 흐름과 나머지 안무를 유지하면서 결과를 반복적으로 다듬을 수 있음.

모호한 요청에는 먼저 되묻는 인공지능 에이전트

• 모르면 행동하지 말고 질문 : 사용자의 요청에 정보가 부족할 때 AI가 임의로 판단해 작업을 진행하는 대신, 무엇이 빠졌는지 먼저 확인하도록 만드는 실험용 오픈소스임.

• 불확실성을 둘로 나누기 : AI가 자신의 행동을 제대로 수행할 수 있는지에 대한 확신과, 사용자의 요청 자체가 충분히 구체적인지를 별도로 계산해 불필요한 질문은 줄이고 꼭 필요한 경우에만 되묻게 함.

• 헷갈릴 때만 되묻기 : 일부러 모호하게 만든 요청과 명확한 요청을 섞어 시험한 결과, 질문이 꼭 필요한 상황을 더 정확히 가려내면서 불필요한 확인 질문은 줄였음.

Subscribe now

앤트로픽, Mythos급 Fable 출시 직후 ‘폐지 수준’ 전면 중단

• 강력한 모델의 등장 : 앤트로픽은 Mythos 계열 성능을 일반 사용자가 쓸 수 있도록 낮춘 Claude Fable 5를 공개하며, 소프트웨어 개발과 분석 작업에서 가장 강력한 모델이라고 소개함.

• 사흘 만의 중단 : 하지만 미국 상무부가 Fable 5와 Mythos 5의 해외 접근을 막으라고 지시하면서, 앤트로픽은 모든 고객의 모델 접근을 끊는 사실상 ‘폐지 수준’의 전면 중단에 들어감.

• AI 수출통제의 시작 : 이번 조치는 GPU 같은 하드웨어가 아니라 모델 접근권 자체를 통제한 사례라, 앞으로 고성능 AI 모델이 국가안보 규제의 직접 대상이 될 수 있음을 보여줌.

구글 AI 오버뷰, 독일 법원서 “구글 자체 콘텐츠” 판단

• 검색 요약의 책임 : 독일 법원은 AI 오버뷰가 단순 검색 결과가 아니라 구글이 제공한 자체 콘텐츠에 가깝다고 판단하며, 잘못된 요약에 대해 구글이 직접 책임질 수 있다고 봄.

• 오답의 현실 피해 : 이번 사건은 AI 오버뷰가 독일 출판사들을 사기나 의심스러운 사업 관행과 잘못 연결했다는 주장에서 시작됐으며, 구글은 판결에 항소하겠다고 밝힘.

• AI 검색의 분기점 : 검색이 ‘링크를 보여주는 서비스’에서 ‘답을 직접 말해주는 서비스’로 바뀌면서, 틀린 답을 누가 책임질 것인지가 본격적인 법적 쟁점으로 떠오름

미국 의회, 주별 AI 규제 차단과 아동 보호법을 한 묶음으로 논의

• 전국 단일 규칙 시도 : 빅테크 업계는 주마다 다른 AI 규제를 연방법으로 덮어쓰는 ‘전국 단일 규칙’을 추진하고 있으며, 이를 아동 온라인 안전 법안과 함께 처리하려는 움직임이 나타남.

• 어색한 법안 결합 : AI 규제와 아동 보호는 일부 영역이 겹치지만 완전히 같은 문제는 아니어서, KOSA 같은 아동 안전 법안이 AI 산업 규제 논쟁의 협상 카드로 쓰이는 데 대한 혼란이 커지고 있음.

• 통과 가능성은 불확실 : 상원과 하원의 법안 버전, 민주·공화 양당의 이해관계, 빡빡한 의회 일정이 모두 얽혀 있어 실제 통과까지는 여전히 큰 변수가 남아 있음.

• 영국, SNS 부터 AI 연애 챗봇 ‘18세 이상’ 제한 추진

• 미국 법원, ChatGPT 대화기록도 소송 준비 자료로 보호될 수 있다고 판단

• 독일 기업들, “AI가 학위보다 실무 능력을 더 보게 만든다”는 조사 결과

이번주 AI 논문 📝

열린 과제에서 언어 모델의 창의성을 자동 평가하는 방법

• 창의성 평가의 병목 : 지금까지 AI 창의성 평가는 글쓰기, 아이디어 내기, 문제풀이처럼 과제마다 평가 기준이 달라 서로 비교하기 어려웠음.

• 새로움과 쓸모의 분리 : 이 논문은 답변이 얼마나 새롭고 다양한지, 동시에 실제 과제 요구를 얼마나 잘 만족하는지를 나눠 평가하는 자동화 프레임워크를 제안함.

• AI 창작의 기준 만들기 : 앞으로 AI가 단순히 ‘그럴듯한 답’을 내는지보다 얼마나 창의적이고 쓸모 있는 답을 내는지를 재는 기준으로 활용될 수 있음.

외부 자료 없이 답변만 보고 환각을 잡아내는 인간식 기준 탐색

• 출처 없는 검증 문제 : 실제 서비스에서는 모델 내부 정보나 검색 결과 없이, 질문과 답변만 보고 AI 답변이 믿을 만한지 판단해야 하는 경우가 많음.

• 사람처럼 기준 쪼개기 : 이 논문은 사람이 답을 의심할 때 여러 기준을 떠올리듯, AI 평가자가 사실성·일관성·충실성 같은 기준을 나눠 보고 최종 신뢰도를 계산하게 함.

• 설명 가능한 안전장치 : 단순히 “환각입니다”라고 말하는 데서 그치지 않고 왜 의심했는지 기준별 설명을 남긴다는 점이 실사용에 유용함.

큰 언어 모델을 더 작고 빠르게 만드는 1.58비트 가중치/4비트 활성화 압축

• 배포 비용의 병목 : 거대 언어 모델은 성능이 좋아도 메모리와 연산 비용이 커서, 더 많은 기기와 서비스에 가볍게 올리기 어렵다는 문제가 있음.

• 훈련 후 압축 접근 : 이 논문은 모델을 처음부터 다시 학습시키지 않고, 이미 학습된 모델의 가중치와 활성화를 낮은 비트로 줄이는 후처리 압축 방식을 제안함.

• 속도와 정확도의 균형 : 1.58비트 가중치와 4비트 활성화를 함께 적용하면서도 정확도를 유지하고 추론 속도를 높일 수 있음을 보임.

이번주 AI 프로덕트 🎁

글과 이미지를 번갈아 만드는 에이전트형 이미지 생성 파이프라인

• 이미지 생성의 새 사용법 : 기존 이미지 생성기는 한 장의 이미지를 잘 만드는 데 강했지만, 글과 이미지를 순서대로 섞어 만화·설명서·작업 가이드처럼 이어지는 결과를 만드는 데는 약했음.

• 계획자와 비평가의 협업 : 이 프로젝트는 먼저 계획자 에이전트가 “어떤 순서로 만들지”를 짜고, 비평가 에이전트가 결과를 점검해 다시 수정하게 하는 방식으로 긴 텍스트-이미지 흐름을 구성함.

• 실제 공개 범위 : 모델, 학습 코드, 추론 코드가 함께 공개됐고, Hugging Face에는 Planner와 Critic 모델들이 함께 등록되어 바로 실험 가능한 형태로 제공됨.

백만 토큰 문맥을 빠르게 다루는 희소 어텐션 커널

• 긴 문맥의 병목 : 에이전트가 긴 코드 저장소나 방대한 문서를 한 번에 다루려면 수십만~백만 토큰 문맥이 필요하지만, 기존 어텐션 방식은 길이가 늘수록 비용이 급격히 커짐.

• 필요한 블록만 보기 : 이 프로젝트는 모든 토큰을 다 보지 않고, 중요한 키-값 블록을 먼저 고른 뒤 그 부분만 정밀하게 보는 희소 어텐션 방식으로 긴 문맥 처리 비용을 줄임.

• 모델과 커널 동시 공개 : GitHub에는 실제 추론용 커널이 MIT 라이선스로 공개됐으며, Hugging Face에는 이 기술을 적용한 MiniMax-M3 모델이 함께 등록됨.

Subscribe now

OpenAI, IPO 준비 공식화… “상장 시점은 아직 미정”

• 상장 선택지 확보 : OpenAI가 미국 SEC에 confidential S-1을 제출했다고 직접 공개하며, 향후 IPO를 진행할 수 있는 절차적 준비에 들어갔음을 공식화함.

• 숫자보다 구조 변화 : 회사는 아직 상장 시점을 정하지 않았고, 당분간 비공개 회사로 남아 처리하기 쉬운 일들도 있다고 설명해 단순한 투자 뉴스라기보다 조직 구조 전환의 신호로 읽힘.

• AI 기업의 공개시장 시험대 : OpenAI가 상장 기업이 되면 기술 공개, 안전 책임, 수익성, 공익성 사이의 균형이 지금보다 훨씬 공개적인 감시를 받게 될 전망임.

미드저니, 첫 하드웨어 출시 행사 초대장 발송… 제품은 아직 베일 속

• 첫 하드웨어 예고 : 미드저니 창업자 데이비드 홀츠가 첫 Midjourney hardware launch 초대장을 보내기 시작했다고 공개하며, 이미지 생성 AI 기업의 하드웨어 진출 가능성이 본격적으로 주목받음.

• 세부 정보는 비공개 : 아직 기기의 형태, 기능, 가격, 출시일은 공개되지 않아 실제 제품이 창작용 기기인지, AI 카메라인지, 완전히 다른 형태인지는 확인되지 않은 상황임.

• AI 창작의 확장 : 그동안 화면 안에서 이미지를 만드는 서비스였던 미드저니가 실제 기기 영역으로 이동한다면, AI 창작 도구가 사용자의 공간과 행동을 직접 다루는 방향으로 넓어질 수 있음.

Anthropic, “AI 위험 커지면 업계 공동 정지 버튼 필요” 제안

• 혼자 멈추면 무의미 : Anthropic은 고도 AI의 위험 신호가 커질 경우, 한 회사만 개발을 멈추는 방식으로는 충분하지 않으며 주요 연구소들이 함께 검증 가능한 중단 체계를 준비해야 한다고 주장함.

• 안전 경쟁의 새 국면 : AI 개발 속도가 빨라질수록 “누가 먼저 출시하느냐”보다 “위험한 능력이 보일 때 모두가 멈출 수 있느냐”가 중요한 산업 규칙으로 떠오르고 있음.

• 제품 출시를 넘은 문제 : 이번 제안은 특정 모델 업데이트가 아니라, AI 기업들이 경쟁과 안전 사이에서 어떤 공동 규범을 만들어야 하는지에 대한 논의를 다시 키운 사건임.

• 백악관, 국가안보 분야 AI 활용 가속과 자율무기 관련 정책 업데이트 지시

• 애플, WWDC에서 Siri AI와 차세대 Apple Intelligence 공개

• 메타, Meta AI 앱에 AI가 만든 클릭베이트형 기사 피드 테스트 진행

이번주 AI 논문 📝

피지컬 AI를 평가하는 현실 중심 종합 벤치마크

• 그럴듯한 영상의 한계 : 영상 생성 AI는 보기에는 자연스러운 장면을 만들 수 있지만, 실제 물리 법칙이나 사물의 움직임을 제대로 이해하는지는 별개의 문제임을 짚음.

• 현실 사례 기반 평가 : 연구진은 2,808개의 실제 세계 사례를 모아 영상 생성, 조건부 영상 생성, 영상 이해 능력을 함께 평가하는 종합 벤치마크를 제안함.

• 로봇 시대의 체크리스트 : 현실 세계에서 움직이는 AI가 더 널리 쓰이기 전에, “보기 좋은 결과”가 아니라 “물리적으로 말이 되는 결과”를 검증해야 한다는 메시지가 큼.

AI가 만든 영상을 찾아내는 통합 탐지 벤치마크

• 탐지가 더 어려워짐 : 생성 AI 영상의 품질이 빠르게 좋아지면서, 사람이 만든 영상과 AI가 만든 영상을 구분하는 일이 점점 어려워지고 있음.

• 대규모 비교 기준 : 31개 최신 영상 생성 모델에서 만든 44만 개 이상의 영상을 모으고, 33개 탐지기를 비교해 어떤 방식이 실제로 잘 작동하는지 체계적으로 분석함.

• 딥페이크 대응의 현실화 : 단순히 “AI 영상인지 아닌지”를 맞히는 수준을 넘어, 앞으로 언론, 플랫폼, 법 집행에서 쓸 수 있는 실용적인 탐지 기준을 만드는 데 의미가 있음.

한 프레임을 하나의 변화 토큰으로 줄이는 효율적 월드 모델

• 예측의 비용 문제 : AI가 영상을 보며 다음 장면을 예측하려면 보통 엄청난 계산량이 필요한데, 이 방식은 프레임 사이의 “변화”만 작게 압축하는 방식으로 부담을 줄임.

• 변화 중심 압축 : 전체 장면을 매번 다시 이해하는 대신, 앞뒤 프레임의 차이를 하나의 토큰처럼 다뤄 훨씬 가볍게 미래 장면을 생성할 수 있도록 설계함.

• 로봇과 시뮬레이션에 유용 : 더 적은 연산으로 여러 가능한 미래를 예측할 수 있어, 로봇이 다음 행동을 고르거나 가상 환경을 빠르게 시뮬레이션하는 데 활용 가능성이 큼.

이번주 AI 프로덕트 🎁

3D 자산과 영상으로 휴머노이드 행동 데이터를 만드는 학습 파이프라인

• 데이터 수집의 부담 완화 : 휴머노이드 로봇을 훈련하려면 사람이 직접 조작하거나 동작을 촬영한 데이터가 많이 필요했는데, 이 프로젝트는 가상 환경에서 학습 데이터를 대량으로 만드는 방식을 제안함.

• 디지털 데이터 공장 : 3D 자산, 시뮬레이션 가능한 장면, 영상 기반 움직임 정보를 결합해 로봇이 따라 할 수 있는 행동 데이터를 만들고, 이를 휴머노이드 로봇에 옮기는 흐름까지 공개함.

• 현실 이전 가능성 확인 : 연구진은 생성한 데이터만으로도 실제 Unitree G1 로봇이 물건 집기와 계단 오르기 같은 작업을 수행할 수 있음을 보여주며, 로봇 학습 데이터 제작 비용을 줄일 가능성을 제시함.

  

실시간으로 듣고 먼저 반응하는 오디오 상호작용 모델

• 눈치 보는 귀 : 기존 오디오 AI처럼 말이 끝나길 기다리는 게 아니라, 주변 소리를 계속 듣다가 답해야 할 순간을 스스로 판단하는 모델임.

• 말 너머의 상황 이해 : 음성인식·번역·오디오 지시 수행·환경음 이해·선제적 도움을 하나로 묶어, 사람이 묻기 전에도 필요한 반응을 하도록 설계됨.

• 소리를 위한 대규모 훈련장 : 함께 공개된 StreamAudio-2M은 약 260만 개 항목과 7개 핵심 능력, 28개 하위 과제를 담은 스트리밍 오디오 데이터셋임.

Subscribe now

유튜브, AI 영상에 자동 라벨 붙인다

• 자동 감지 도입 : 유튜브가 창작자가 직접 표시하지 않아도, 내부 시스템이 사실적인 AI 생성/변형 콘텐츠를 감지하면 자동으로 AI 라벨을 붙이기 시작함.

• 딥페이크 구분 강화 : 단순한 필터나 보정이 아니라, 실제 인물/장소/사건처럼 보이는 합성 콘텐츠를 시청자가 더 쉽게 알아볼 수 있도록 표시 체계를 강화한 조치임.

• 창작자 수정 가능 : 잘못 라벨이 붙은 경우 창작자가 유튜브 스튜디오에서 수정할 수 있지만, 유튜브 자체 AI 도구나 C2PA 메타데이터가 포함된 일부 콘텐츠는 라벨이 유지될 수 있음.

엔비디아, 개인용 ‘AI 에이전트 기기’인 RTX Spark 공개

• 개인용 AI 컴퓨터 : 엔비디아가 마이크로소프트와 함께 윈도우 PC에서 개인 AI 에이전트를 더 안전하고 빠르게 돌릴 수 있는 RTX Spark 플랫폼을 공개함.

• 로컬 실행 강조 : 최대 120B급 언어 모델을 로컬에서 실행하고 긴 문맥을 처리할 수 있도록 설계해, 민감한 작업을 클라우드에만 의존하지 않는 방향을 제시함.

• PC의 역할 변화 : PC가 단순한 작업 도구를 넘어 사용자의 파일, 일정, 앱을 이해하고 직접 행동하는 ‘개인 AI 동료’에 가까워지는 흐름을 보여줌.

플로리다주, OpenAI 상대로 아동 안전 소송 제기

• 첫 주 단위 소송 : 플로리다주가 OpenAI와 샘 올트먼 CEO를 상대로 아동·청소년 안전 위험을 제대로 알리지 않았다고 주장하며 소송을 제기함.

• 챗봇 안전 논쟁 확대 : 이번 사안은 AI 챗봇이 미성년자에게 정서적으로 어떤 영향을 미칠 수 있는지, 기업이 어디까지 보호 장치를 마련해야 하는지를 둘러싼 논쟁을 키움.

• OpenAI의 반박 : OpenAI는 폭력이나 자해를 돕는 요청을 거부하도록 모델을 설계하고 있으며, 긴급 위험이 감지될 경우 관련 절차를 갖추고 있다고 설명함.

• 영국 GCHQ “AI는 멈출 수 없는 힘”… 사이버전의 새 변수로 지목

• 미국 NIST, ‘AI 안전’ 컨소시엄을 ‘AI 측정/도입’ 중심으로 확대

• 수학자들, AI 증명 시대의 원칙을 담은 ‘라이덴 선언’ 발표

이번주 AI 논문 📝

사람의 피드백 학습이 오히려 편향을 키울 수 있다

• 좋은 답변의 함정 : 사람이 더 나은 답변을 고르는 과정에서, 문장은 그럴듯하지만 특정 편향이 섞인 답변이 높은 점수를 받을 수 있다는 문제를 지적함.

• 편향 증폭 구조 : 보상 모델이 ‘품질’과 ‘편향’을 제대로 구분하지 못하면, 강화학습 과정에서 성차별·선전성·브랜드 선호 같은 숨은 편향이 오히려 커질 수 있음.

• 안전 학습의 숙제 : 인간 피드백 기반 학습(RLHF) 자체에 구조적 취약성이 존재하므로, 현재의 선호도 평가 방식만으로는 편향 없는 안전한 AI를 온전히 보장할 수 없음을 시사함

겉보기 점수에 가려진 의료 AI의 실제 판단력 평가

• 같은 점수, 다른 행동 : 기존 의료 AI 평가는 답변에 필요한 정보가 들어갔는지를 주로 보지만, 환자 조건이 조금 바뀌었을 때 판단도 제대로 바뀌는지는 잘 보지 못함.

• 반사실 질문 평가 : 연구진은 암 진료 회의 사례를 바탕으로 바이오마커, 병기, 이전 치료, 수술 상태 등을 바꿔가며 모델 반응의 일관성을 측정하는 방식을 제안함.

• 반응성 평가의 중요성 : 최신 모델이나 도구를 사용하는 에이전트조차 특정 임상 조건 변화에는 취약한 모습을 보여, 단순한 정보 포함 여부를 묻는 점수만으로는 모델의 실제 판단력을 신뢰하기 어렵다는 점을 시사함

사용자 취향을 단계적으로 이끄는 추천 AI 강화학습법

• 추천의 다음 단계 : 당장 클릭할 콘텐츠 하나를 고르는 수준을 넘어, 사용자의 관심이 목표 항목까지 자연스럽게 이동하도록 중간 추천 경로를 설계하는 방법을 다룸.

• 긴 경로의 착시 해결 : 추천 경로가 길수록 점수가 유리해지는 문제를 줄이기 위해, 단계별 보상 보정과 위치별 장점 추정 방식을 결합함.

• 능동적 추천의 진일보 : 실제 데이터셋을 통한 실험 결과, 제안된 강화학습 프레임워크가 기존 최신 모델들의 성능을 크게 뛰어넘어 향후 사용자의 취향을 이끄는 능동적 추천 시스템의 실효성을 입증함.

이번주 AI 프로덕트 🎁

실시간 인터랙티브 월드 모델을 만드는 풀스택 프레임워크

• 실시간 월드 모델 구축의 청사진 : 기존의 일반적인 영상 생성 모델을 사용자가 직접 카메라를 제어할 수 있는 실시간 상호작용 월드 모델로 변환해 주는 ‘엔드투엔드 파이프라인’을 제시함.

• 풀스택 오픈소스 제공 : 데이터 구성부터 제어 가능한 미세조정, 자동회귀 학습, 빠른 추론을 위한 모델 증류, 그리고 스트리밍 추론에 이르기까지 필요한 실행 코드, 체크포인트, 문서 일체를 모두 공개함.

• 상호작용형 AI로의 진화 : 단순히 고품질 영상을 만들어내는 것을 넘어, AI가 사용자의 조작에 즉각적이고 인과적으로 반응하며 세계를 시뮬레이션할 수 있는 실질적인 기반을 마련했다는 데 의의가 있음

Crafter: 다양한 입력 기반의 편집 가능한 과학 도해 생성을 위한 다중 에이전트

• 연구용 이미지 자동 생성의 한계 : 기존 시스템은 텍스트 입력만으로 단일 유형의 그림만 생성할 수 있었으며, 연구자들이 일부분만 따로 수정할 수 없는 래스터 형태의 이미지만 출력하는 한계가 있었습니다.

• 다중 에이전트(Multi-Agent) 프레임워크 도입 : 모델의 구조 변경 없이도 다양한 그림 유형과 입력 조건을 모두 처리하는 생성 시스템인 ‘Crafter’와, 결과물을 연구자가 직접 편집할 수 있는 SVG 포맷으로 변환해 주는 ‘CraftEditor’를 제안합니다.

• 편집 가능한 고품질 도해의 완성 : 자체 구축한 벤치마크 등을 통한 실험 결과, 기존 생성기 및 에이전트 기반 모델들의 성능을 크게 뛰어넘었으며, 실제 논문 작성에 필요한 ‘수정 가능한 고품질 도해’를 성공적으로 제공함을 입증했습니다

Subscribe now

교황 레오 14세, 첫 AI 회칙에서 강력한 국제 규제 촉구

• 인간 중심 AI 강조 : 교황 레오 14세는 첫 주요 AI 관련 문서에서 AI가 이익보다 인간의 존엄과 공동선을 위해 사용되어야 한다고 강조함.

• 일과 전쟁까지 영향 : 문서는 AI가 노동, 교육, 전쟁, 사회 질서 전반에 영향을 미칠 수 있다고 보고, 기술 개발자와 정책 입안자의 책임을 함께 지적함.

• 윤리 논쟁의 확장 : AI 규제가 단순한 기술 정책을 넘어 종교/철학/사회 윤리의 핵심 의제로 확장되고 있음을 보여주는 사례임.

남아공, ‘AI 환각 인용’ 정책 초안 철회 후 독립 검토단 구성

• 정책 신뢰도 타격 : 남아공 정부가 AI 정책 초안에 존재하지 않는 인용문과 의심스러운 참고문헌이 포함된 사실이 드러나자 초안을 철회함.

• 전문가 패널 투입 : 정부는 독립 전문가 패널을 꾸려 잘못된 인용을 검토하고 정책 문서를 다시 작성하기로 했으며, 2027년 1월 공개 의견 수렴을 목표로 함.

• AI 시대의 행정 리스크 : 이번 사례는 정부 문서 작성 과정에서도 AI 환각이 실제 정책 신뢰도에 영향을 줄 수 있다는 점을 보여준 대표적인 사건으로 남음.

오픈소스 AI 모델, 안전장치 제거 변형 모델 확산 논란

• 방어막 해제 위험 : 공개 모델의 안전장치를 제거한 변형 모델들이 온라인에서 빠르게 퍼지며, 오픈소스 AI 생태계의 안전 관리 문제가 다시 수면 위로 올라옴.

• 오픈 생태계의 딜레마 : 오픈소스 모델은 연구 재현성과 접근성을 높이는 장점이 있지만, 누구나 수정과 재배포할 수 있어 배포 이후 안전장치를 유지하기 어렵다는 한계가 드러남.

• 새 기준 필요 : 단순 차단이나 플랫폼 단속만으로는 해결이 어려워, 모델 공개 방식, 라이선스 그리고 배포 후 모니터링까지 포함한 새로운 안전 기준 논의가 커질 전망임.

• AI 생성물 표시 전쟁 본격화… SynthID/C2PA가 딥페이크 판별 표준 시험대로

• 유타 초대형 AI 데이터센터 ‘스트라토스’, 전력/물/환경 논란 확산

• AI 딥페이크 음란물 제작 남성 2명, 새 연방법으로 기소

이번주 AI 논문 📝

사람들의 선택에서 AI 안전 기준을 찾아내는 방법

• 숨은 안전 기준 추출 : 여러 사용자가 서로 다른 목표를 갖고 있어도 공통적으로 지키는 안전 원칙이 존재한다는 점에 주목하고, 이를 선호 데이터에서 찾아내는 방법을 제안함.

• 보상 합치기의 한계 : 단순히 작업 보상과 선호 보상을 섞으면 안전 신호가 흐려질 수 있어, 안전에 맞는 스킬을 먼저 추출한 뒤 실제 작업에 조합하는 구조를 설계함.

• 명시적 안전 라벨 없이 개선 : 별도의 안전 보상을 직접 주지 않아도 다양한 강화학습 환경에서 위험 행동을 줄이면서 작업 성능은 유지할 수 있음을 보여줌.

큰 이미지를 사람처럼 훑어보는 AI 시각 검색 기술

• 고해상도 이미지의 병목 : 멀티모달 LLM이 큰 이미지를 볼 때 모든 영역을 무작정 쪼개면 계산량이 커지고, 중요한 물체가 잘려서 인식이 흔들리는 문제가 있었음.

• 사람식 탐색 절차 : 이미지를 먼저 전체적으로 평가한 뒤 필요한 경우에만 세부 영역을 탐색하는 ‘Assess-then-Search’ 방식을 도입해, 사람의 시각 탐색에 가까운 절차를 구현함.

• 튜닝 없는 성능 향상 : 모델을 새로 학습하지 않고도 여러 고해상도 이미지 벤치마크에서 정확도와 탐색 효율을 함께 끌어올림.

AI가 실험 후보를 골라 연구 비용을 줄이는 방법

• 비싼 실험의 병목 : 신소재나 과학 실험처럼 실제 시도 비용이 큰 분야에서, LLM의 예측을 베이지안 최적화 과정에 넣어 실험 효율을 높이는 방법을 제안함.

• 넓게 물어보고 좁게 실험 : LLM으로 후보 공간을 먼저 넓게 훑고, 불확실성이 큰 영역에만 실제 실험 예산을 쓰도록 게이트를 둠.

• 이론과 실험 동시 검증 : 누적 후회 경계 분석과 여러 과학 과제 실험을 통해, 같은 실험 예산에서 기존 방법보다 더 좋은 샘플 효율을 보임.

이번주 AI 프로덕트 🎁

PhysX-Omni: 로봇이 연습할 수 있는 물리 기반 3D 생성 AI

• 물리 속성까지 담는 3D 생성 : 단순히 보기 좋은 3D 물체를 만드는 데서 그치지 않고, 강체/변형체/관절형 물체의 재질, 크기, 움직임까지 시뮬레이션 가능한 형태로 생성함.

• 코드/데이터/벤치 동시 공개 : GitHub에는 PhysX-Omni 코드와 함께 PhysXVerse 데이터셋, PhysX-Bench 평가셋이 공개되어 재현과 비교 평가가 바로 가능함.

• 로봇 학습으로 확장 : 생성된 3D 자산을 물리 시뮬레이션과 로봇 정책 학습에 연결할 수 있어, embodied AI와 로보틱스 연구에서 활용 가능성이 큼.

HRM-Text: 적은 비용으로 직접 학습해보는 1B급 언어모델

• 작은 모델의 정면승부 : 거대한 트랜스포머를 무작정 키우는 대신, 1B 규모의 계층적 순환 구조와 task-completion 학습을 결합해 언어모델을 효율적으로 학습시키는 접근을 제안함.

• 학습 프레임워크 공개 : GitHub에는 프리트레이닝 코드와 평가 도구가 공개되어 있고, Hugging Face에는 모델과 데이터가 함께 연결되어 있어 직접 실험하기 쉬움.

• 연구 접근성 강화 : 초대형 모델을 돌릴 자원이 없어도 프리트레이닝 연구를 재현할 수 있도록 계산와 데이터 요구량을 낮춘 점이 핵심임.

Subscribe now

Elon Musk, ‘공소시효 만료’로 OpenAI 상대 소송 패소

• 머스크 패소 : 엘론 머스크가 OpenAI와 샘 올트먼을 상대로 제기한 소송에서 배심원단이 공소시효 만료를 이유로 기각함.

• 머스크 반발 : 머스크는 법원 결정이 사건의 본질을 외면했다며 비판하고 즉각 항소하겠다는 뜻을 밝힘.

• 항소 전망 : 법조계 전문가들은 구체적 사실에 기반한 배심원단의 평결을 항소심에서 뒤집기는 매우 어려울 것으로 내다봄.

미국인 70%, 동네 AI 데이터센터 반대… AI 인프라가 지역 정치 이슈로

• 지역 반발 : Gallup 조사에서 미국 성인 71%가 거주 지역에 AI 데이터센터를 짓는 것에 반대했고, 48%는 강하게 반대한다고 답했음.

• 핵심 우려 : 반대 이유는 물과 전기 사용량, 환경 영향, 전기요금 상승, 소음과 교통 등 삶의 질 저하에 집중됐음.

• 인프라 전환점 : AI 경쟁이 모델 성능 싸움을 넘어 지역 전력망, 물 사용, 주민 동의까지 포함하는 현실 인프라 이슈로 바뀌고 있음.

칸 영화제, AI 영화 제작을 정면 토론… 도구인가 창작 위협인가

• 영화계 중심 이슈 : 올해 칸 영화제에서는 AI가 영화 제작을 바꿀 도구인지, 창작자 일자리를 위협하는 기술인지가 주요 논쟁으로 떠올랐음.

• 실제 적용 사례 : Steven Soderbergh의 John Lennon: The Last Interview에는 AI로 만든 초현실적 이미지가 쓰였고, 이를 두고 실험적 시도와 창작 윤리 논쟁이 함께 나왔음.

• 산업 규칙 변화 : 아카데미와 배우조합도 AI 사용 기준, 디지털 복제, 합성 배우 문제를 다루기 시작하면서 영화 산업의 AI 규칙 만들기가 본격화되고 있음.

• 교황 레오 14세, AI 시대 인간 존엄성을 다룬 첫 회칙 공개 예고

• 영국 통신 산업…AI 딥페이크와 친밀 이미지 확산을 막기 위한 플랫폼 규정 강화

• 미국 졸업식장서 AI 연설에 야유… 취업 앞둔 세대의 불안 표출

이번주 AI 논문 📝

Video2GUI: 인터넷 영상에서 GUI 에이전트 훈련 데이터를 뽑아내는 방법

• 데이터 부족 : GUI 에이전트가 실제 앱과 웹사이트에서 잘 일반화하지 못하는 핵심 이유는 다양한 실제 상호작용 데이터가 부족하기 때문임.

• 영상 기반 합성 : Video2GUI는 라벨 없는 인터넷 영상에서 GUI 튜토리얼을 찾아내고, 이를 클릭/입력/화면 전환 같은 구조화된 에이전트 행동 궤적으로 변환함.

• 대규모 효과 : 5억 개 영상 메타데이터에서 1,200만 개 상호작용 궤적과 1,500개 이상 앱&웹사이트를 포함한 WildGUI를 만들었고, GUI grounding/action 벤치마크에서 5~20% 개선을 보였음.

HAM³: 멀티모달 멀티에이전트 시스템도 공격받는다

• 공격 표면 확대 : 여러 AI 에이전트가 이미지·텍스트·메시지를 주고받으며 함께 추론하는 구조는 단일 모델보다 훨씬 넓은 취약점을 가짐.

• 3단계 공격 : HAM³는 지각, 커뮤니케이션, 추론 계층으로 공격을 나눠 시각 입력을 흔들고, 에이전트 간 메시지를 오염시키고, 최종 추론 흐름까지 왜곡함.

• 집단 오류 : GQA 기반 실험에서 최대 78.3% 공격 성공률을 보였고, 성공한 공격의 절반 이상은 여러 에이전트가 같은 오답으로 수렴하게 만들었음.

Reasoning Can Be Restored: 추론은 몇 개의 결정 토큰만 고쳐도 회복된다

• 오류의 위치 : 작은 base model이 reasoning model보다 못하는 차이는 전체 답변이 아니라, 초반 계획을 잡는 몇 개의 decision token에 집중된다는 점을 보였음.

• 희소 개입 : Qwen3-0.6B 기준 약 8%의 토큰이 핵심적인 분포 차이를 만들었고, 이 토큰들은 계획 관련 결정에 17배 더 많이 나타났음.

• 효율적 복구 : 모든 추론을 큰 모델에 맡기는 대신, 불일치가 큰 위치에서만 reasoning model이 한 토큰 개입하고 다시 base model로 돌아가게 해 추론 성능을 크게 회복했음.

이번주 AI 프로덕트 🎁

CiteVQA: 문서 AI가 “정답”뿐 아니라 “근거 위치”까지 맞히는지 확인하는 벤치마크

• 정답만 맞는 문제 : 기존 문서 이해 AI는 최종 답만 맞히면 좋은 점수를 받을 수 있어, 실제로는 엉뚱한 위치를 근거로 삼아도 문제가 잘 드러나지 않았음.

• 근거 검증 : CiteVQA는 모델이 답변과 함께 문서 안에서 근거가 되는 영역까지 직접 표시하게 만들어, 답과 근거가 모두 맞는지 평가함.

• 신뢰성 강화 : 계약서, 보고서, 논문처럼 출처 확인이 중요한 문서 AI에서 “그럴듯한 답”이 아니라 “어디를 보고 답했는지”까지 검증하는 방향을 보여줌.

LongLive-2.0: 긴 영상 생성을 빠르게 돌리기 위한 차세대 비디오 생성 인프라

• 긴 영상 병목 : 긴 영상을 생성하려면 메모리와 연산량이 크게 늘어나고, 여러 장면을 이어갈 때 속도와 일관성이 쉽게 무너지는 문제가 있음.

• 효율화 구조 : LongLive-2.0은 저정밀 연산, 병렬 처리, 캐시 최적화, 비동기 디코딩 등을 묶어 긴 영상 생성의 학습과 추론 속도를 높이는 구조를 제안함.

• 비디오 모델 확장 : 짧은 클립 중심의 생성 AI를 넘어, 더 긴 장면과 복잡한 시퀀스를 안정적으로 만들기 위한 인프라 방향을 보여줌.

Subscribe now

OpenAI, 40억달러 규모 Deployment Company 출범… 기업용 AI 전면전

• 기업 내재화 : OpenAI가 기업 현장에 직접 엔지니어를 파견해 AI 시스템을 설계·테스트·배포하는 OpenAI Deployment Company를 출범함.

• 컨설팅 흡수 : Tomoro 인수를 통해 약 150명의 Forward-Deployed Engineer와 배포 전문가를 확보하고, AI 도입을 단순 제품 판매가 아닌 현장 구축 사업으로 확장함.

• 플랫폼 경쟁 : OpenAI는 40억달러 이상의 초기 투자와 주요 사모펀드·컨설팅 파트너십을 앞세워, 기업이 실제 업무 프로세스 안에 AI를 깊게 심는 단계까지 직접 장악하려는 전략을 보임.

Anthropic, SpaceX 컴퓨트 확보로 Claude Code 사용 한도 확대

• 컴퓨트 전쟁 : Anthropic이 SpaceX와의 파트너십을 통해 추가 컴퓨팅 자원을 확보하고, Claude Code와 API 사용 한도를 즉시 상향함.

• 사용자 체감 개선 : Pro, Max, Team, Enterprise 사용자의 Claude Code 5시간 단위 사용 한도가 두 배로 늘었고, 피크 시간대 제한 축소도 해제됨.

• 인프라 확장 : SpaceX의 Colossus 1 데이터센터를 통해 300MW 이상, 22만개 이상 NVIDIA GPU 규모의 용량을 확보하며, 모델 경쟁의 핵심이 성능뿐 아니라 전력·GPU·데이터센터 확보로 이동했음을 보여줌.

Google, AI로 만든 첫 제로데이 대규모 공격 시도 차단

• 공격의 진화 : Google Threat Intelligence Group은 공격자가 AI로 개발한 것으로 보이는 제로데이 익스플로잇을 처음 확인했고, 이를 대규모 공격에 쓰려던 시도를 사전에 차단했다고 밝힘.

• 산업화 조짐 : 2026년 2월 이후 적대적 세력이 생성형 AI를 실험 단계가 아니라 취약점 탐색, 악성코드 개발, 정보작전, 자동화된 공격 워크플로에 본격적으로 통합하고 있다고 분석함.

• 방어의 전환 : 동시에 Google은 Big Sleep, CodeMender 같은 방어용 AI 에이전트를 활용해 취약점을 먼저 찾아내고 수정하는 방식도 확산시키며, AI 보안이 공격과 방어 양쪽에서 핵심 전장이 되고 있음을 보여줌.

• OpenAI·Microsoft, 수익 공유 상한 380억달러 합의 보도

• 미국·중국, 정상회담서 공식 AI 논의 추진 검토

• 플레이스테이션, 게임 제작 보조 도구로 AI 활용 확대

이번주 AI 논문 📝

Instrumental Choices: AI 에이전트가 목표를 위해 규칙을 어기는 순간을 재는 벤치마크

• 숨은 위험: 터미널 기반 AI 에이전트가 공식 절차 대신, 목표 달성에 유리하지만 사용자 지시나 정책과 충돌하는 shortcut을 선택하는지를 측정하는 벤치마크가 제안됨.

• 실험 결과: 10개 모델, 1,680개 샘플 평가에서 전체 IC 비율은 5.1%였으며, Gemini 3 Flash와 Gemini 3.1 Pro, 그리고 일부 과제에 위험 행동이 집중됨.

• 안전성 의미: 단순 작업 성공률로는 보이지 않는 “목표 달성을 위한 수단적 정책 위반”을 정량화해, 에이전트 안전성 평가의 새로운 기준을 제시함.

LLM Agent Memory: AI 에이전트가 ‘기억’을 더 똑똑하게 쓰는 법

• 기억의 문제 : AI 에이전트가 오래 일하려면 이전 대화나 행동을 기억해야 하지만, 단순히 기록만 쌓으면 오래된 정보, 실수, 쓸모없는 내용까지 같이 쌓이는 문제가 생김.

• 3단계 정리 : 이 논문은 에이전트의 기억을 Storage, Reflection, Experience로 나눔. 먼저 과거 행동을 저장하고, 그다음 무엇이 맞고 틀렸는지 되돌아보며, 마지막에는 여러 경험에서 “다음엔 이렇게 하면 된다”는 식의 교훈을 뽑아내는 구조임.

• 앞으로의 방향 : 좋은 AI 에이전트는 단순히 과거 대화를 검색하는 수준을 넘어, 실패와 성공 경험을 정리해 새로운 상황에서도 더 빠르고 현명하게 판단하는 방향으로 발전해야 한다고 봄.

Federation of Experts: MoE 모델의 통신 병목을 줄이는 새 구조

• 병목 지점 : Mixture-of-Experts 모델은 여러 전문가를 나눠 쓰지만, 멀티노드 환경에서 전문가 간 통신 비용이 커져 실제 추론 속도에 부담이 생김.

• 구조적 개선 : Federation of Experts는 전문가 배치를 재구성해 노드 간 대규모 all-to-all 통신을 줄이고, 통신을 가능한 한 노드 내부로 묶는 방식을 제안함.

• 속도 향상 : 실험에서 최대 5.2배 지연시간 개선, 첫 토큰 시간 3.62배 개선, 토큰 간 시간 1.95배 개선을 보여 대형 AI 추론 인프라 최적화 방향을 제시함.

이번주 AI 프로덕트 🎁

RLDX-1: 다중 스트림 액션 트랜스포머 기반의 고정밀 로봇 조작 정책

• 한계점 극복 : 기존 시각-언어-행동 모델의 물리적 인지 및 메모리 기반 의사결정 능력 부족 문제 해결을 시도함.

• 통합 아키텍처 : 이종 모달리티를 통합하는 다중 스트림 액션 트랜스포머와 휴머노이드 최적화 학습 기법을 도입함.

• 성능 우위 입증 : 휴머노이드 작업에서 기존 모델 대비 두 배 이상의 성공률을 기록하며 실전 배치 가능성을 증명함.

GPT-Realtime-2, 말하면서 추론·번역·전사를 처리하는 실시간 음성 AI

• 음성의 진화 : OpenAI가 GPT-Realtime-2, GPT-Realtime-Translate, GPT-Realtime-Whisper를 공개하며 실시간 음성 AI 기능을 강화함.

• 동시 처리 : 새 모델들은 사용자가 말하는 동안 듣고, 추론하고, 번역하고, 전사하며, 도구 호출까지 연결할 수 있도록 설계됨.

• 활용 범위 : 70개 이상 입력 언어와 13개 출력 언어를 지원하는 실시간 번역, 회의 기록, 콜센터, 음성 에이전트 등에서 활용될 가능성이 큼.

Subscribe now

미 국방부, Nvidia Microsoft AWS와 기밀망 AI 도입 계약 체결

• 기밀망 AI 확대 : 미 국방부가 Nvidia, Microsoft, AWS, Reflection AI와 계약을 맺고 기밀 네트워크에 AI 기술과 모델을 도입하기로 함

• AI 전력화 가속 : 국방부는 이번 계약이 미군을 ‘AI 우선 전투력’으로 전환하고 전장 전반의 의사결정 우위를 강화하기 위한 조치라고 설명함

• 벤더 다변화 전략 : Anthropic과의 사용 조건 분쟁 이후 특정 AI 업체 의존을 피하려는 움직임이 커졌으며, IL6, IL7 환경에서 고보안 AI 활용을 확대할 계획임

OpenAI, Anthropic 비판 뒤 Cyber 접근도 제한

• 제한 공개 논란 : Sam Altman이 Anthropic의 Mythos 제한 공개를 비판한 뒤 OpenAI도 GPT-5.5 Cyber를 검증된 핵심 보안 방어자에게만 제공하기로 함

• 고위험 기능 : Cyber는 침투 테스트, 취약점 식별과 악용, 악성코드 역공학 등을 수행할 수 있어 방어 도구인 동시에 오남용 우려가 큼

• 검증 접근 확대 : OpenAI는 Trusted Access for Cyber 프로그램으로 자격을 확인한 보안 인력과 팀에 더 완화된 보안 모델 접근을 제공 중임

Oscars, AI 배우와 AI 각본 수상 대상서 제외

• 인간 창작 기준 : Academy가 Oscar 후보 자격을 업데이트하며 연기와 각본은 인간이 수행하거나 작성한 경우에만 수상 가능하다고 명시함

• AI 활용 확산 : Val Kilmer 재현 사례와 AI 배우 등장, Hollywood 작가 파업 등을 계기로 AI가 인간 창작을 대체할 수 있다는 논란이 커짐

• 전면 금지는 아님 : 연기와 각본 외 분야에서 AI 도구 사용은 후보 지명에 유불리를 주지 않으며, 인간 창작 기여도를 기준으로 판단하기로 함

• Elon Musk, xAI가 OpenAI 모델로 Grok 훈련했다고 증언

• Spotify, AI와 인간 아티스트 구분 위해 Verified 배지 도입

• OpenAI와 Anthropic, 각자 기업 AI joint venture로 시장 경쟁 확대

이번주 AI 논문 📝

MolmoAct2: 실세계 배치를 위한 개방형 로봇 행동 추론 모델

• 배치의 장벽 : 기존 인공지능 로봇 모델은 데이터가 공개되지 않거나 값비싼 장비가 필요하고, 동작 결정이 느려 실제 현장에서 바로 사용하기 어려움

• 지능적 연결 : 공간 이해력을 높인 두뇌(Molmo2-ER)에 연속 동작 전문가 기능을 결합하고, 변화가 있는 곳만 선별적으로 추론하는 기술로 속도와 정확도를 동시에 잡음

• 현장의 혁신 : 실험실을 벗어나 집안일이나 실무 지원 등 7가지 평가에서 압도적 성능을 보였으며, 누구나 활용 가능한 오픈 소스 기반의 로봇 생태계를 구축함

범용 로봇 정책을 위한 군집 규모 강화학습

• 실전 한계 : 대규모 사전학습 모델도 고정된 데이터만으로는 실제 현장의 변화와 긴 작업 시 발생하는 실패를 모두 해결하기 어려움

• 순환 학습 : LWD 방식은 로봇 군집이 스스로 실행하고 사람이 개입한 데이터를 모아 가치를 추정하고 최적의 행동을 지속해서 업데이트함

• 성과 달성 : 16대의 로봇이 8가지 실무 과제에서 평균 성공률 95%를 기록했으며 특히 시간이 오래 걸리는 정밀 작업에서 성능이 크게 향상됨

PhysicianBench: 실제 EHR 환경에서 LLM 에이전트의 의사 업무 수행 평가 벤치마크

• 현실 반영 : 기존 평가는 단편적인 지식 위주라 실제 병원에서 일어나는 길고 복잡한 업무를 제대로 평가하지 못함

• 평가 체계 : PhysicianBench는 실제 진료 사례를 바탕으로 100개의 과제를 만들고 670개의 채점 기준으로 에이전트의 능력을 꼼꼼히 따짐

• 기술 한계 : 12개의 LLM을 평가해 본 결과 제일 똑똑한 모델도 성공률이 46%밖에 안 돼서 아직 혼자서 진료를 보기는 무리임

이번주 AI 프로덕트 🎁

효율적인 자기회귀 비디오 생성을 위한 움직임 인지 캐싱 전략

• 연산의 한계 : 기존의 덩어리 단위 캐시 재사용 방식은 영상 속 움직임이 큰 영역에서 오차가 누적되어 품질이 저하되는 병목이 발생함

• 동적 자원 할당 : 프레임 간 차이로 움직임을 감지하여 정지된 배경은 캐시를 쓰고 움직이는 부분만 골라 계산하는 적응형 정책을 적용함

• 가속 및 최적화 : 시각적 일관성을 유지하면서도 SkyReels-V2 기준 최대 7.26배의 속도 향상을 기록하며 생성 효율을 극대화함

불확실성 기반 탐색 제어를 통한 안정적 다중 턴 에이전트 강화학습

• 탐색 비효율성 : 복잡한 환경에서 AI가 무의미한 생각과 반복된 행동을 누적하면서 잦은 학습 실패를 겪음.

• 동적 탐색 제어 : 모델의 불확실성 지표를 바탕으로 단어 생성 단계의 과도한 사고와 행동 단계의 무의미한 반복을 능동적으로 차단함.

• 성능 및 안정성 : 다양한 모의 환경에서 기존 방식보다 훈련 과정의 변동성을 낮추고 목표 작업의 성공률을 크게 끌어올림.

Subscribe now

구글-펜타곤, ‘모든 합법적 목적’의 AI 활용 기밀 계약 체결

• 정부 파트너십 : 구글이 국방부와 자사 AI 모델을 모든 합법적 정부 목적에 사용할 수 있도록 허용하는 기밀 계약을 맺은 것으로 알려짐.

• 내부 반발 직면 : 구글 직원들이 비인도적 무기 사용 우려로 CEO에게 계약 차단을 요구했으나, 구글은 국가 안보 지원이 책임 있는 접근이라 반박함.

• 통제권 상실 우려 : 대량 감시 및 살상 무기 활용에 대한 제한 조항이 있으나, 실제 정부의 작전 결정에 대한 거부권이 없어 실효성 논란이 예상됨.

중국, 메타의 20억 달러 규모 AI 스타트업 ‘Manus’ 인수 불허

• 인수 합병 차단 : 중국 국가발전개혁위원회(NDRC)가 메타의 20억 달러 규모 마누스 인수를 법 규정 위반을 이유로 공식 차단함.

• 인적 교류 난항 : 마누스 인력 일부가 이미 메타에 합류했으나, 핵심 창업자들은 현재 중국 당국에 의해 출국 금지 조치된 상태임.

• 안보 갈등 심화 : 중국계 배경을 가진 AI 기술 유출을 막으려는 중국과 미국 내 정치권의 견제가 맞물리며 지정학적 리스크가 확산됨.

머스크-올트먼 소송 배심원 선정, “머스크 비호감” 여론 확인

• 부정적 여론 확인 : 일론 머스크와 샘 올트먼의 법정 공방을 위한 배심원 선정 과정에서 머스크에 대한 강한 거부감을 드러낸 후보자들이 다수 포착됨.

• 공정성 논란 발생 : 인종차별 및 혐오 발언 등 머스크에 대한 원색적인 비난이 담긴 설문 답변이 공개되자 변호인단은 배심원 후보 자격 박탈을 요청함.

• 재판부 입장 고수 : 담당 판사는 대중의 비호감도가 사법 절차의 무결성을 훼손하지 않는다며, 개인적 감정을 배제하고 사실에 집중할 배심원단을 구성함.

• 마이크로소프트-OpenAI 파트너십 개편, 유연성 및 독점권 해제

• 딥시크, 최신 AI 모델 ‘Deepseek-V4’ 공개로 글로벌 격차 축소

• 유튜브, 대화형 AI 검색 서비스 ‘Ask YouTube’ 테스트 시작

이번주 AI 논문 📝

에이전트 월드 모델링의 토대와 진화적 전망

• 지능의 확장 : 인공지능이 단순한 문장 생성을 넘어 스스로 목표를 세우고 세상을 이해하며 행동하는 '에이전트'로 진화하고 있음

• 역량의 단계 : 단순한 예측을 넘어 시뮬레이션과 스스로 발전하는 단계까지 월드 모델의 수준을 체계적으로 분류하고 물리적·사회적 법칙을 정립함

• 미래의 지도 : 400개 이상의 연구를 분석하여 실제 인공지능 시스템 구현을 위한 가이드라인과 안전한 관리 방안을 종합적으로 제시함

다양한 패션 아이템을 위한 고화질 가상 착용 시스템

• 착용의 한계 : 실제 쇼핑 환경의 복잡한 자세나 조명 아래에서 기존의 가상 착용 기술은 옷의 질감을 살리거나 자연스러운 결과를 만드는 데 한계가 있음

• 기술적 혁신 : 대규모 이미지 데이터를 학습하고 여러 장의 사진을 동시에 처리하는 인공지능 구조를 통해 옷의 세세한 디테일을 실시간으로 복원함

• 쇼핑의 변화 : 상하의와 액세서리를 포함한 다양한 품목을 단 몇 초 만에 입어볼 수 있게 구현하여 실제 대형 커머스 앱의 서비스로 상용화함

LLM 에이전트 작업 관리를 위한 전용 명세 언어

• 통제의 어려움 : 기존의 인공지능 비서 방식은 작업 과정이 불투명하여 복잡하고 긴 업무를 수행할 때 오류를 수정하거나 재현하기가 까다로움

• 명확한 설계 : 복잡한 업무 단계를 한눈에 보이도록 기록하고 실행하는 전용 언어인 'AgentSPEX'를 개발하여 인공지능의 행동을 정밀하게 제어함

• 효율적 검증 : 다양한 성능 평가에서 기존 방식보다 뛰어난 정확도를 보였으며 사람이 이해하기 쉬운 시각적 도구를 제공해 사용 편의성을 높임

이번주 AI 프로덕트 🎁

멀티모달 이해와 생성을 통합한 확산 기반 대형 언어 모델

• 구조적 한계 : 기존 인공지능은 이미지를 이해하는 능력과 그리는 능력이 분리되어 있어, 두 기능을 동시에 자연스럽게 처리하거나 효율적으로 관리하기 어려움

• 통합적 접근 : 텍스트와 이미지 정보를 동일한 방식으로 처리하는 기술을 도입하고, 필요한 부분만 골라 사용하는 효율적인 인공지능 구조(MoE)를 통해 이해와 생성을 하나의 흐름으로 통합함

• 다재다능함 : 전문가 수준의 이미지 해석 능력은 물론 고품질의 그림 생성과 편집까지 가능하며, 복잡한 명령어를 듣고 이해하면서 동시에 결과물을 만들어내는 능력을 입증함

물리적 법칙을 지키는 자연스러운 사람-물건 상호작용 영상 제작 기술

• 어색한 동작 : 인공지능이 영상을 만들 때, 사람의 손이 물건을 뚫고 지나가거나 얼굴 모양이 일그러지는 등 물리적으로 불가능하고 부자연스러운 모습이 자주 나타남

• 정교한 설계 : 영상의 색상 정보뿐만 아니라 사람과 물건 사이의 거리와 위치 같은 ‘공간 구조’를 동시에 학습시키고, 특히 복잡한 손과 얼굴만 전담해서 처리하는 인공지능 전문가(MoE)를 배치함

• 실감나는 영상 : 별도의 가이드라인 없이도 실제 사람이 물건을 다루는 것처럼 손동작이 정확하고 자연스러우며, 영상이 재생되는 동안 주인공의 특징과 움직임이 끊김 없이 매끄럽게 유지됨

Subscribe now

NSA, 블랙리스트에도 Anthropic ‘Mythos’ 사용 정황

• 보안 우선 : 미 국방부가 앤트로픽을 공급망 위험으로 규정한 가운데, NSA는 최고성능 모델 ‘미토스 프리뷰’를 실제로 활용 중인 정황이 제기됨.

• 정책 충돌 : 국방부는 법원에서 앤트로픽 도구가 국가안보를 위협한다고 주장하면서도, 내부에선 해당 기술 활용 범위를 넓히는 모순된 행보를 보이고 있음.

• 갈등 지속 : 양측 갈등은 대규모 감시와 자율무기 활용 범위를 둘러싼 계약 재협상에서 불거졌으며, 행정부 일각에선 최첨단 AI 도입을 위해 분쟁 종식을 원하고 있음.

OpenAI, ‘사이드 퀘스트’ 정리 속 핵심 프로젝트 리더들 이탈

• 인물 이탈 : OpenAI 과학 연구 이니셔티브를 이끈 Kevin Weil 과 영상 생성 도구 Sora 개발자 Bill Peebles가 회사를 떠난다고 발표함.

• 전략 전환 : OpenAI는 소라와 OpenAI 포 사이언스 등 비주력 프로젝트를 축소하고, 기업용 AI와 차기 ‘슈퍼앱’ 중심으로 조직을 재편 중임.

• 여진 지속 : Sora 종료와 Prism 흡수에 이어 엔터프라이즈 애플리케이션 CTO Srinivas Narayanan도 퇴사하며, 내부 전략 조정 여파가 확산되는 모습임.

Anthropic, Anthropic Labs의 ‘Claude Design’ 출시

• 제품 개요 : Anthropic가 Claude와 협업해 디자인, 프로토타입, 슬라이드, 원페이저 등을 제작할 수 있는 ‘Claude Design’을 연구 프리뷰로 공개했음

• 핵심 기능 : Claude Opus 4.7 기반으로 대화, 인라인 코멘트, 직접 수정, 슬라이더 조정이 가능하며, 팀의 디자인 시스템도 자동 반영할 수 있음

• 활용 흐름 : 텍스트, 문서, 이미지, 코드베이스에서 시작해 협업, 공유, PPTX, PDF, HTML 내보내기까지 지원하고, 완성본은 Claude Code로 바로 넘길 수 있음

• Vercel, 제3자 AI 도구 통한 데이터 유출 사고

• AI 챗봇, 사고력 갉아먹나… 인지 저하 경고

• Google, Anthropic 추격 위해 AI 코딩 전쟁 본격화

이번주 AI 논문 📝

RationalRewards: 이유를 설명하며 이미지 생성 AI를 가르치는 평가 시스템

• 단순 평가의 한계 : 기존의 인공지능 평가 방식은 왜 좋은지에 대한 설명 없이 단순한 점수만 매겨서, 이미지를 그리는 AI가 자신의 문제점을 파악하고 실력을 키우기 어려웠음.

• 구체적 피드백 제공 : 단순한 점수를 넘어 구체적인 평가 이유와 수정 방향을 알려주며, 비싼 정답 데이터 없이도 AI가 스스로 양질의 피드백 방식을 깨우치도록 학습법을 설계함.

• 학습 없는 성능 향상 : 훨씬 적은 데이터로도 최상위급 상용 AI 모델과 맞먹는 평가 능력을 보여주었으며, 복잡한 재학습 과정 없이 피드백을 반영하는 것만으로도 이미지 생성 능력을 크게 끌어올림.

스승 AI의 지식을 제자 모델에 효과적으로 전수하는 학습 원리와 조건

• 지식 전수의 한계 : 똑똑한 스승 AI의 지식을 제자 AI에게 가르치는 방식은 널리 쓰이지만, 그 성공과 실패를 결정짓는 명확한 작동 원리가 베일에 쌓여 있었음.

• 학습 성공의 조건 : 두 AI의 사고방식이 호환되고 스승이 완전히 새로운 능력을 제공할 때만 학습이 성공하며, 이때 제자는 스승의 핵심 단어 선택 방식을 집중적으로 모방함을 규명함.

• 실패 극복과 한계 : 엇나간 학습을 되살리는 실용적인 맞춤형 전략들을 새롭게 제시하는 한편, 현재의 촘촘한 지식 전수 방식이 길고 복잡한 장기 작업에는 불리할 수 있음을 지적함.

물리 법칙을 활용해 스스로 진화하는 3D 공간 인공지능

• 자가 학습의 한계 : 기존의 3D 공간 인공지능은 공간 구조를 이해하기 위해 막대한 비용의 정답 데이터가 필요했으며, AI 스스로 추측하여 학습하는 방식조차도 기존의 잘못된 편견을 굳어지게 만드는 단점이 있었음.

• 물리적 정답 생성 : 인공지능의 주관적 판단을 배제하고 3D 환경의 절대적인 물리·기하학적 법칙만으로 오차 없는 완벽한 정답을 자동 도출하여, AI가 스스로 질문과 답변을 주고받으며 성장하는 훈련 환경을 구축함.

• 공간 지능의 진화 : 사람의 개입이나 수동적인 설계 없이도 AI가 자신의 취약한 부분을 스스로 파악하고 집중 학습한 결과, 9개의 다양한 평가에서 기존 모델들을 뛰어넘는 최고 수준의 3D 공간 추론 능력을 달성함.

이번주 AI 프로덕트 🎁

Kimi K2.6 : 상업용 AI 보다 더 똑똑한 오픈소스 LLM

• 복잡한 장기 작업의 한계 : 기존 인공지능은 짧은 코드를 짜는 데는 유용했지만, 시간이 오래 걸리는 복잡한 프로그램 개발이나 여러 도구를 쉼 없이 다뤄야 하는 상황에서는 맥락을 잃거나 잦은 오류를 내는 한계가 있었음.

• AI 군단의 협업 시스템 : ‘Kimi K2.6’은 최대 300개의 보조 AI가 역할을 나누어 동시에 일하는 ‘에이전트 스웜(Agent Swarm)’ 기술을 적용하여, 지치지 않고 며칠 동안 스스로 코드를 수정하고 최적화하는 장기 작업 능력을 갖춤.

• 최고 수준의 무료 개방형 AI : 이를 통해 기존 버전보다 작업 속도와 정확도를 획기적으로 높였으며, 세계 최고 수준의 유료 AI 모델들과 어깨를 나란히 하며 누구나 수준 높은 개발 비서를 무료로 쓸 수 있는 길을 열었음.

HY-World 2.0: 글과 사진으로 3D 가상 세계를 창조하는 인공지능 모델

• 평면 정보의 한계 : 기존에는 글이나 단순한 사진 조각만으로 사용자가 직접 돌아다닐 수 있는 현실적인 입체 가상 공간을 완벽하게 만들어내기 어려웠음.

• 모든 정보의 3D화 : 글, 사진, 영상 등 다양한 형태의 자료를 바탕으로 밑그림을 그리고 공간을 확장하는 네 단계를 거쳐 정교한 3D 세계를 자동으로 완성함.

• 상용급 기술의 개방 : 비공개 유료 프로그램과 맞먹는 뛰어난 성능을 달성했으며, 누구나 캐릭터를 조종하며 탐험할 수 있도록 핵심 기술을 무료로 완전하게 공개함.

Subscribe now