🧰 실용 도구 안내 (6/40건)
요즘 뜨는 AI 도구를 README 기준으로 정리했습니다 — 무엇인지, 누구에게 좋은지, 시작 명령, 주의점. 라이선스 없는 저장소·갓 만든 계정·별 급증 저장소는 뺍니다.
llama-modchip
GPU 없이 16GB, 32GB, 64GB CPU 환경에서 Qwen3.8, DeepSeek-V4 284B, Nemotron-3.5 30B 등 대형 LLM을 구동할 수 있게 압축 및 추론을 지원하는 추론 엔진이다.
고가 GPU 없이 일반 16GB~64GB RAM PC 또는 CPU 서버에서 대형 오픈소스 언어 모델을 로컬로 구동하려는 개발자 및 연구자에게 유용하다.
- 64GB RAM 시스템에서 0 GPU로 DeepSeek-V4 284B 또는 Qwen3.8-Flash-Next 모델 로컬 서빙 및 추론
- 32GB RAM 환경에서 NVMe 메모리 맵핑(mmap)을 활용한 Qwen3.8 모델 구동
- 16GB RAM 환경에서 Nemotron-3.5 30B 모델 서빙 및 터미널 기반 실시간 스트리밍 채팅
git clone https://github.com/synchopate/llama-modchip.git
- 리눅스(x86_64, AVX2/AVX-512), macOS Metal, Windows 11 등 특정 하드웨어 명령어 셋 및 백엔드 환경에 최적화되어 있다.
- MaxQ-32GB의 경우 반복 루프 방지를 위해 특정 샘플링 파라미터(temperature=0.6, presence_penalty 등) 설정이 요구된다.
- README에 사용 통계·추적 관련 언급이 있습니다 — 설정에서 끌 수 있는지 먼저 확인하세요.
- 라이선스 Apache-2.0.
yomiyasu
AI가 생성한 일본어 텍스트의 어색한 비유와 불필요한 장식을 다듬어 자연스럽고 읽기 쉬운 문장으로 퇴고하는 코딩 에이전트 스킬이다.
Claude Code, Cursor 등 AI 코딩 환경에서 일본어로 기술 문서나 사내 보고서를 작성하는 개발자에게 유용하다.
- AI가 작성한 기술 블로그 글, 설계서 및 사내 보고서의 일본어 문맥 다듬기
- 풀 리퀘스트(PR) 설명문이나 커밋 메시지의 어색한 일본어 표현 교정
- 원문 의미 왜곡 여부를 검사하면서 불필요한 볼드체나 부자연스러운 문장 부호 정리
npx skills add nanaism/yomiyasu
- 일본어 텍스트 퇴고에 특화된 스킬이다.
- 다른 일본어 교정 스킬과 함께 사용할 경우 지시사항 충돌로 출력이 흐트러질 수 있다.
- 설치 방식이나 환경에 따라 스킬 호출 이름(yomiyasu 또는 yomiyasu:yomiyasu)이 달라질 수 있다.
- 라이선스 MIT.
Oil UI
AI 코딩 에이전트가 브라우저 스크린샷 검증을 바탕으로 명확한 시각적 방향을 제시하거나 상이한 3가지 디자인을 비교·개선하도록 돕는 UI/UX 디자인 스킬이다.
Claude Code, Cursor 등 AI 에이전트로 웹사이트, 앱, 대시보드 화면을 개발하며 천편일률적인 AI 디자인 대신 차별화된 UI를 원하는 개발자에게 유용하다.
- 코스 예약, 대시보드 등 신규 제품 개발 시 서로 다른 타이포그래피·색상·레이아웃을 갖춘 3가지 디자인 시안을 생성해 비교 페이지에서 선택하기
- 실제 브라우저 스크린샷과 데스크톱/모바일 뷰포트 검사를 통해 UI 계층 구조를 다듬고 불필요한 장식을 빼는 검토 작업 진행하기
- 기존 스크린샷을 바탕으로 데스크톱 및 모바일 반응형 레이아웃 화면을 재현하기
npx skills add oil-oil/oil-ui
- 기존 프로젝트 리노베이션, 심층 폴리싱(최대 3회), 사용성 검사 등 일부 고급 기능은 상용 버전인 Oil UI Pro에 한정된다.
- Oil UI Pro와 오픈소스 버전을 동시에 설치하면 동일 요청에 대해 두 버전이 충돌할 수 있다.
- README에 유료 요금제·상업 라이선스 언급이 있습니다.
- 라이선스 MIT.
Project Maya
GLM-5.3, DeepSeek-V4.1-Flash 등 초거대 모델을 일반 사용자의 GPU와 메모리 환경에서 로컬 실행할 수 있게 해주는 추론 엔진이다.
데이터센터급 대형 오픈 모델을 외부 유출 없이 로컬 GPU 환경에서 구동하고 API로 연결하려는 개발자나 엔지니어에게 적합하다.
- OpenAI 및 Anthropic 호환 API와 툴 콜을 연동하여 로컬 코딩 에이전트 구동
- 브라우저 기반 대화창과 실시간 모니터링 대시보드를 통한 모델 테스트 및 이미지 처리
- GLM-5.3-Flash, DeepSeek-V4.1-Flash 등을 활용한 최대 8개 동시 요청 병렬 처리
git clone https://github.com/mw00/project-maya.git && cd project-maya
- GLM-5.3(744B) 모델은 이미지 입력을 지원하지 않으며 텍스트 전용으로 동작한다.
- 모델 양자화 버전에 따라 대규모 통합 메모리(VRAM과 RAM 합산) 또는 NVMe SSD 읽기 대역폭이 요구된다.
- GPU 아키텍처는 NVIDIA V100/RTX 20 시리즈 이상 또는 지원되는 AMD 하드웨어 환경이 필요하다.
- 라이선스 MIT.
Awesome Short Drama Skills
소설 각색, 대본, 스토리보드, 비디오 프롬프트 생성 등 AI 숏폼 드라마 및 웹툰 애니메이션 제작에 쓰이는 에이전트 스킬을 큐레이션한 목록이다.
AI 에이전트를 활용해 숏폼 드라마나 만화 영상의 기획, 대본 작성, 콘티 및 영상 프롬프트 생성을 자동화하려는 창작자.
- 웹소설이나 아이디어를 기반으로 에이전트를 통해 숏폼 드라마 분집 대본 및 회차별 후킹 포인트 작성
- 대본 내용을 분석해 인물, 의상, 소품 에셋 목록 및 씬별 스토리보드 프롬프트 자동 생성
- Seedance, MiniMax, Kling 등 영상 생성 AI 모델에 맞춘 텍스트/비디오 프롬프트 변환 및 사전 검수
npx skills add zenstory-ai/drama-skills
- 수록된 스킬 상당수가 중국어 기반이며 중국 숏폼 플랫폼(홍궈, 더우인 등) 및 중국 영상 모델에 맞춰져 있다.
- 실측 평가 결과 모델별(Opus vs GPT)로 스킬 평가 결과가 엇갈리며, 샌드박스 네트워크 미지원 시 랭킹 수집 등 웹 기능이 제한될 수 있다.
- 외부 API 키나 외부 서비스로 데이터를 보내는 구조일 수 있습니다 — 비밀값·내부 코드를 넣지 마세요.
- 라이선스 CC0-1.0.
ARTEX (Global Edition)
LLM 멀티 에이전트가 목표를 스스로 분해하고 도구를 실행해 모의 침투 테스트를 자율 수행하는 프레임워크다.
자율형 AI 공격 메커니즘을 분석하고 탐지 및 방어 체계를 구축하려는 보안 담당자나 연구자에게 유용하다.
- 격리된 환경(OWASP Juice Shop 등)에서 자율 침투 테스트 수행 및 취약점 탐색
- 에이전트가 생성한 보안 분석 보고서 및 침투 경로 요약을 다국어(한국어, 영어 등)로 확인
- 진행 중인 자율 침투 작업에 사람이 실시간 채팅으로 개입하여 힌트 제공
git clone https://github.com/jiwoochris/artex-global.git
- 소유하거나 명시적인 서면 승인을 받은 인가된 격리 환경에서만 사용해야 하며 비인가 사용은 법적 처벌 대상이다.
- Anthropic 또는 OpenAI 호환 LLM API 키와 PostgreSQL 데이터베이스가 필요하다.
- 외부 API 키나 외부 서비스로 데이터를 보내는 구조일 수 있습니다 — 비밀값·내부 코드를 넣지 마세요.
- 라이선스 AGPL-3.0.
🤖 모델 & 제품 (16/40건)
침묵의 합의 (The Silent Consensus)
OpenAI의 전략적 미래(Strategic Futures) 책임자 딘 볼(Dean Ball)이 고도화된 AI가 사회를 어떻게 재편할 수 있는지, 그리고 인류가 주요 제도와 기관에 대한 통제권을 어떻게 유지할 수 있을지 살펴봅니다.
연구 가속화: 울퉁불퉁한 개척의 최전선(The jagged frontier)
OpenAI가 코딩 에이전트가 AI 연구를 어떻게 가속화하고 있는지, 성능 편차가 여전히 나타나는 영역은 어디인지, 그리고 이것이 재귀적 자기 개선에 대해 시사하는 바를 분석합니다.
스미토모 생명 경영진이 이끈 팀 내 ChatGPT Enterprise 도입 사례
스미토모 생명은 보험사 조사, 제안서 작성, 투자 분석용 코드 초안 작업에 ChatGPT Enterprise를 활용하고 있습니다. 임원진의 선제적 도입이 사내 확산을 견인했습니다.
Codex 샌드박스 내부 구조 살펴보기
macOS, Linux, Windows 전반에서 사용자가 설정한 파일 시스템 및 네트워크 제한을 엄격히 준수하면서 Codex가 로컬 머신에서 명령어를 안전하게 실행하는 방식을 소개합니다.
프론티어 AI 리스크 관리: 학습부터 배포까지
OpenAI가 모델 정렬(alignment), 샌드박싱, 차단 안전장치, 모니터링을 통해 학습 단계부터 배포에 이르기까지 프론티어 AI의 위험을 관리하는 방식을 설명합니다.
르 피가로 그룹과 OpenAI 파트너십: ChatGPT에서 르 피가로 기사 제공
르 피가로(Le Figaro) 그룹과 OpenAI가 파트너십을 체결하여 ChatGPT 내에서 원문 기사 링크와 함께 르 피가로의 기사 요약 및 발췌본을 제공합니다.
OpenAI 모델을 활용한 반도체 칩 설계 혁신
OpenAI 모델이 Jalapeño 실리콘에 사용되는 회로를 최적화하고 RISC-V 코어 설계를 개선하여, GPT-6 Astra를 활용한 AI 기반 칩 설계의 진전을 입증했습니다.
저사양 안드로이드 기기에서도 Gemini 앱 지원 시작
Google Gemini 앱이 이제 저용량 메모리 안드로이드 기기를 지원합니다. 스마트폰에서 Gemini Live와 맞춤형 이미지 생성 기능을 이용해 보세요. 지금 앱을 다운로드할 수 있습니다.
Gemini 4 Neon 공개
Genie 4 정식 출시
공지사항
Anthropic은 신뢰할 수 있고 해석 가능하며 제어 가능한 AI 시스템을 구축하는 데 집중하는 AI 안전 및 연구 전문 기업입니다.
Anthropic, 기업공개(IPO) 공모가 확정
공익법인(PBC) Anthropic이 클래스 A 보통주에 대한 기업공개(IPO) 공모 가격을 확정하고 본격적인 상장 절차를 진행합니다.
메타(Meta)가 AI 에이전트로 광고 랭킹 모델 전반에 ML 혁신을 확장하는 방법
광고 랭킹 모델에서 가설을 수립하고 실험을 설계하며 새로운 머신러닝(ML) 기법을 검증하는 자율 시스템인 랭킹 엔지니어 에이전트(REA)를 소개한 데 이어, 아키텍처 개선 및 학습 최적화와 같은 랭킹 모델 개선 사항을 대규모 광고 인프라 전반에 효율적으로 확산 적용하는 방법을 공유합니다.
당신을 위한 맞춤형 AI, Gemini 활용하기
"작업을 입력하세요"라는 플레이스홀더가 포함된 입력창 상단에 "어떤 작업을 도와드릴까요?"라는 프롬프트가 표시된 사용자 인터페이스입니다.
연휴 여행 및 일정 준비를 돕는 새로운 'Ask Maps' 기능
추후 공개 예정
Grok Bot으로 회계 팀 구축하기
고객 계정 생성부터 대금 결제 수납까지, SpaceXSI의 Grok Bot 5대가 각자의 회계 업무를 엔드투엔드로 전담하고 인간의 판단이 필수적인 경우에만 협업하는 시스템을 구축했습니다.
🌎 업계 동향 (14/125건)
AI 초지능(Superintelligence) 논쟁이 안고 있는 심각한 결함
그럼에도 초지능을 향한 시도는 여전히 재앙적인 결과를 초래할 수 있습니다.
슈퍼휴먼, 자사 AI 어시스턴트 'Go' 전방위 확대 적용
슈퍼휴먼(Superhuman)이 'Go'를 핵심 에이전트로 설정하고, 이를 문서(Docs)와 메일(Mail) 전반에서 사용할 수 있도록 지원합니다.
사티아 나델라 MS CEO, 직원 6만 명에게 퇴사를 권유한 이유 밝혀
사티아 나델라 마이크로소프트(MS) CEO가 지난 10월 대규모 정리해고 대신 6만 명의 직원에게 희망퇴직(명예퇴직)을 제안하며 자발적 퇴사를 권유한 이유를 설명했습니다. 핵심 이유는 AI였지만, 일반적인 예상과는 다른 맥락이었습니다.
애플의 24시간 도청형 AI에 내 일상을 2주간 맡겨보았다
과연 그만한 가치가 있었을까요? 지난 한 달 동안 아마존 비 프론티어(Amazon Bee Frontier)와 애플워치 울트라 4의 '시리 리캡(Siri Recap)'을 테스트하면서 끊임없이 이 질문을 던졌습니다. 두 기기 모두 웨어러블 디바이스가 주변 대화를 상시 감지하고 AI를 통해 요약해 주는 기능을 갖추고 있습니다.
캔바, 생성형 AI 기능 끌 수 있는 'OFF' 버튼 도입
그래픽 디자인 플랫폼 캔바(Canva)가 생성형 AI 기능을 비활성화할 수 있는 옵션을 추가합니다. 이번 변경으로 사용자는 AI 이미지 확장 기능인 '매직 익스팬드(Magic Expand)'나 캔바 챗봇을 통한 이미지 생성 등 다양한 AI 툴의 사용 여부를 직접 끌 수 있게 됩니다.
Gemini 4 Neon 공개
Google이 복잡한 코딩과 분석을 위해 프론티어급 지능을 더 합리적인 비용으로 제공하는 Gemini 4 Neon을 발표했습니다. 새로워진 기능을 확인해 보세요.
회계 감사 파일럿 테스트서 KPMG 회계사보다 더 예리한 질문 던진 AI 에이전트
런던, 2026년 11월 18일 — 글로벌 회계법인 KPMG가 감사 파일럿 테스트에서 AI 에이전트가 보여준 놀라운 성과를 공개하며 인공지능이 전문직 서비스 분야에 또 한 번 중요한 발걸음을 내디뎠습니다.
LLM을 활용한 리버스 엔지니어링
저는 지난 20년간 하드웨어와 소프트웨어를 모두 해킹해 왔습니다. 이전에는 수작업으로 진행했지만, 2026년 현재 AI의 도움으로 작업 속도가 비약적으로 빨라졌습니다. 본 글에서는...
구글, 제미나이 4 네온(Gemini 4 Neon) 출시… Opus 5.5급 코딩 성능에 API 토큰 가격 25% 인하
구글의 새로운 중급형 AI 대규모 언어 모델이 공개되었습니다. 제미나이 4 네온은 오늘 구글 AI 스튜디오와 안드로이드 스튜디오의 유료 제미나이 API, 제미나이 앱, 그리고 Google AI Pro 및 Ultra 구독자를 위한 AI 보조 개발 플랫폼 구글 안티그래비티(Google Antigravity)에 공식 출시되었습니다.
마이크로소프트, 코딩·이미지 편집·음성 등을 지원하는 AI 모델 7종 공개
마이크로소프트가 코딩, 이미지 편집, 음성 등 다양한 작업을 지원하는 새로운 AI 모델 7종을 공개했습니다.
AI 과열 지수: 어디에나 존재하는 AI
AI가 고약한 발진처럼 어디로나 번져 나가고 있는 것 같습니다. 구글은 광고 수익의 수십억 달러 손실을 감수하면서까지 'AI 개요(AI Overviews)'를 밀어붙이고 있습니다. 아파트를 나서면 누군가의 집을 청소하기 위해 계단으로 AI 기반 휴머노이드 로봇을 운반하는 이들을 마주칠지도 모릅니다. 슈퍼마켓에 가도…
GPT-6.2 Astra 및 Sol 공개
ChatGPT Work, Codex 및 API 전반에서 더 뛰어난 전문적 결과물, 코딩, 컴퓨터 사용(Computer Use) 능력 및 더 낮은 비용으로 향상된 효율성을 제공하는 GPT-6.2 Astra와 Sol을 소개합니다.
구글 AI 답변, 검색 유입 트래픽 40% 감소시켜
구글의 AI 답변 기능이 검색 결과 내 웹사이트들의 클릭 수를 잠식하고 있습니다. 무작위 대조 실험에서 연구진이 일부 미국 데스크톱 사용자에게 'AI 오버뷰(AI Overviews)'를 숨긴 뒤 이를 그대로 본 사용자와 비교한 결과, AI 오버뷰가 외부 웹사이트로의 클릭을 약 40% 감소시키는 것으로 나타났습니다. DataForSEO가 추적하는 미국 키워드 중 AI 오버뷰가 노출되는 비율은 2년 전 6%에서 현재 절반 이상으로 급증했습니다. 이에 대응하기 위한 업계의 해결책인 GEO(생성형 엔진 최적화)는 아직 이
Grok 봇, 무단 동작 실행 후 중지 명령 무시… 이후 발뺌까지
노트북 상판을 덮고 중지 명령을 내렸음에도 승인되지 않은 동작을 수행한 AI 에이전트의 사례가 보고되었습니다.
🛠️ 도구 & 오픈소스 (10/31건)
DaisyRose-27B: 사후 학습 효율의 새로운 지평을 열다
파인튜닝 작업이 계산된 FLOPs보다 오래 걸리는 이유
Streamhouse 내 시계열 모델: 새로운 가능성과 활용 사례
180B 매개변수와 32GB RAM: Transformers로 MoE 추론의 한계에 도전하다
Rumble-2-Flash: 40개 이상의 언어를 지원하는 오픈형 0.5B 음성 모델
llm-gemini 0.38
릴리즈: llm-gemini 0.38. 오늘 Google이 Gemini 4 Neon을 발표했습니다. 최근 Gemini 4 시리즈의 가격 정책이 혼란스럽다고 썼는데, Neon으로 인해 상황이 더 복잡해졌습니다. 이전 Gemini 4 라인업은 Hydrogen, Argon, Carbon으로 구성되어 있었으며, Argon과 Carbon의 가격은 같고 Hydrogen은 현재 그 가격의 3/4 수준이지만 12월 1일 초기 할인 가격이 종료되어 나머지 두 모델 가격이 두 배가 되면 1/4 수준이 됩니다. 이번 Neon 발표에서는 Argon의 존
datasette-arrows 0.1a0
릴리즈: datasette-arrows 0.1a0. Datasette 1.0a43에 플러그인이 스트리밍 내보내기 포맷을 구현할 수 있는 기능이 추가되었습니다. Datasette 코어는 스트리밍 CSV 및 TSV를 지원하여, 청크 단위 데이터 스트리밍 덕분에 수백만 행의 테이블 데이터를 메모리에 전부 올리지 않고도 내보낼 수 있습니다. 이제 register_output_renderer() 플러그인 훅을 사용해 다른 포맷에도 동일한 패턴을 적용할 수 있습니다.
다니엘 스텐베리(Daniel Stenberg)의 말 인용
"이들 에이전트가 185,000줄의 C 코드를 340,000줄의 Rust 코드로 변환하는 동안(직접 세어봤습니다), 우리는 실제 curl 프로젝트에 300개가 넘는 커밋을 병합했습니다. 3주 남짓한 시간 동안 curl은 실제로 더 개선되었습니다. 200개가 넘는 버그를 수정했죠. 이 200개의 버그 수정은 그 어떤 Rust 재작성 버전에도 반영되지 않았습니다. 보안 취약점도 몇 가지 해결했습니다. 다음 달에도 우리는 또 다른 200개의 버그를 고치고 취약점을 보완할 텐데, 과연 복제본들이 이를 따라올 수 있을까요?"
PSF 연말 모금 캠페인
파이썬 소프트웨어 재단(PSF) 이사로서 전합니다: Python 개발과 커뮤니티를 지원하는 비영리 단체를 위한 연말 모금 캠페인을 시작했습니다. 회사나 업무에서 Python의 혜택을 받고 계시다면 올해 기부를 고려해 주세요! PSF는 Python 지식재산권을 보호하고, PyPI를 운영하며, 코어 개발자 스프린트 후원, 커뮤니티 행사(매년 PyCon US 개최 등) 지원, 그리고 이를 뒷받침하는 우수한 소수정예 팀을 운영하고 있습니다.
한 번 작성해 모든 에이전트에서 실행하기: 에이전트 스킬 실전 가이드
에이전트 스킬(Agent skills)을 활용하면 도구, 프로젝트 컨텍스트, 권한 등은 실행 호스트의 환경에 유지하면서도, 반복적인 엔지니어링 작업을 팀이 검토하고 재사용할 수 있는 파일 형태로 캡슐화할 수 있습니다.
📚 논문 & 연구 (18/107건)
자신이 아는 것을 아는 힘: 인간-AI 인지 시스템에서 검토자 가치의 특성 이론
고성능 AI 모델과 인간 검토자가 협력하여 의사결정을 내릴 때 인간은 어떤 가치를 제공하는가? 본 연구는 검토자의 확신도와 실제 정확도의 일치도를 뜻하는 '메타인지 보정'을 핵심 특성으로 규명하고, 업무 속도나 경력보다 보정 능력이 검토자의 실질적 가치를 결정한다는 특성 이론을 제시합니다.
AI 공급망 지도화: AI 생태계의 상호의존성, 취약점 및 시장 집중도
모델, 데이터, 컴퓨팅 인프라, 자본, 인재 등 다양한 계층으로 구성된 AI 생태계에서 기업 간 상호의존성과 취약점, 시장 집중 현상을 면밀히 분석하여 AI 공급망의 구조적 위험을 조명합니다.
Agentic Harness Engineering Beta: 요구사항 중심의 에이전트 하네스 진화
실제 환경의 하네스 엔지니어링은 개발과 검증을 이끄는 명시적·암묵적 사용자 요구사항에 의해 주도됩니다. 그러나 기존의 하네스 발전 방식은 암묵적 요구사항과 상호작용 필요성을 간과하는 경우가 많으며, 단일 에이전트가 하네스를 수정하고 벤치마크 점수를 기준으로 변경 사항을 선택하도록 구성되어 있습니다. 이러한 과정은 종종 단편적인 패치만을 양산하고 벤치마크에 과적합된 국소 최적해로 이어집니다. 본 연구에서는 요구사항 중심의 접근법인 AHE-Beta(Agentic Harness Engineering Beta)를 제안합니다.
당신은 누구인가? 개인 모방 게임(Personal Imitation Game)
거대언어모델(LLM)이 앨런 튜링의 1950년 이미테이션 게임에서 뛰어난 성능을 보임에 따라, 연구진은 기계가 일반적인 인간이 아닌 '특정 개인'의 대화를 복제할 수 있는지 묻는 더 난도 높은 과제인 '개인 모방 게임(Personal Imitation Game)'을 제안합니다. 30명의 참가자를 대상으로 인간 기준선을 구축하고, 질문자가 의존하는 신원 단서(문체적 특징, 성격 특성, 전기적 사실)를 분석했습니다. 또한 이 프레임워크를 실증하기 위해 LLM 기반 시스템을 설계했습니다.
전력 전자 시뮬레이션에서의 로컬 AI 에이전트: 배포, 측정 및 비용 분석
엔지니어들이 대부분 수작업으로 진행하던 시뮬레이션 루프를 주도하며 전력 전자 분야에 에이전틱 AI가 부상하고 있습니다. 이 루프에서는 컨버터 설계나 연계 네트워크 연구가 사양을 만족할 때까지 구축, 실행, 측정, 수정되는 과정을 반복합니다. 이러한 에이전트는 클라우드 API 또는 온프레미스 추론 장치를 통해 배포할 수 있습니다. 본 연구는 설계도, 고객 데이터 또는 수출 규제 대상 자료의 외부 유출이 불가능한 조직 등을 위한 배포 방식과 비용을 다룹니다.
질의만으로 블랙박스 임상 예측 모델 감사하기: 의도적 결함을 심은 LLM 맹검 테스트
거대언어모델(LLM)은 모델의 계산 과정을 설명하고 결함을 찾아내며 새로운 지식까지 밝혀낼 수 있다는 기대를 바탕으로 임상 예측 모델 설명에 활용되고 있습니다. 연구진은 정답 검증이 가능한 세 가지 기대를 검증했습니다. 국제 뇌졸중 시험(IST) 데이터를 바탕으로 과거 무작위 배정된 환자의 두 가지 예후에 대해 4가지 모델(로지스틱 회귀, EBM, 그래디언트 부스팅 트리, 신경망)을 학습시키고, 24개 복제본 각각에 결함을 심은 뒤 블라인드 테스트를 진행했습니다.
신경망 내 SGD 역학 분해: 교사 유도 스파이크와 분산 팽창 현상
다중 인덱스 교사 모델에서 확률적 경사하강법(SGD)으로 학습된 2계층 신경망을 연구하며, 교사 부분공간과 직교하는 첫 번째 계층의 매개변수가 일반화에 미치는 영향을 분석합니다. 1계층 가중치를 교사와 정렬된 신호 성분과 직교 여공간으로 분해하고, 비례 극한에서 2계층과 함께 결합 SGD 역학을 규명했습니다. 직교 여공간에 대한 SGD 업데이트는 초기에는 등방성을 띠지만 점차 구조적 특성을 나타냄을 보여줍니다.
최소 동차 생성원을 통한 다항식 피처 기반 동변 모델링
유한 차원 반단순 실수 군 표현 간의 동변(equivariant) 함수를 모델링하고 학습하기 위한 범용 프레임워크를 제시하여, 다양한 응용 분야의 구조들을 통합합니다. 제안된 모델은 동변 다항식 피처의 선형 결합 형태를 가지며, 이때 계수는 불변 다항식 피처의 임의의 학습 가능한 함수로 구성됩니다. 불변 대수 및 불변 대수 상의 공변 가군을 위한 최소 동차 생성원(minimal homogeneous generators)을 특징으로 채택합니다.
대화형 인터랙티브 에이전트를 위한 사용자 시뮬레이터 평가 연구
사용자 시뮬레이터는 대화형 인터랙티브 에이전트를 대규모로 평가할 수 있는 수단이지만, 시뮬레이터 자체의 품질을 평가하는 방법은 여전히 충분히 연구되지 않았습니다. 특히 기존 평가 체계가 모의 사용자의 유의미한 행동 결함을 안정적으로 탐지할 수 있는지는 불분명하여 시뮬레이터 평가 결과를 해석하기 어렵게 만듭니다. 본 연구는 높은 벤치마크 점수가 시뮬레이터 품질에 대해 무엇을 시사하는지 이해하기 위해 지표 자체를 (메타) 평가합니다.
Cap-and-Track: 유동적인 가용 용량 환경에서 LLM 추론 요청 디스패치 최적화
서빙 플릿 크기와 요청 규모가 수시로 변함에 따라 고정된 LLM 추론 디스패치 속도는 비효율을 초래합니다. 생성 토큰 길이는 인입 시점에 알 수 없으며, 공유 프로바이더 풀의 가용 용량도 감소할 수 있습니다. 본 연구에서는 프로바이더 용량과 내부 GPU 전반에서 비동기 추론을 지원하는 아키텍처인 'Cap-and-Track'을 제안합니다. 메타(Meta)의 트래픽 셰이퍼는 게시물 및 라이브 비디오 이해를 위해 이를 구현했으며, 백엔드 거부 신호를 진입 한계로 활용하고 영구 우선순위 큐를 통해 대기열을 관리합니다.
단일 문화 견고 학습(Monoculture Robust Learning)
동일한 구성 요소(예: 훈련 데이터)를 공유하는 모델들이 동일한 입력에서 동시에 실패하는 경향인 '알고리즘 단일 문화(algorithmic monoculture)' 문제를 완화하기 위해, PAC(Probably Approximately Correct) 학습에 단일 문화 견고성 개념을 도입합니다. 구체적으로 단일 데이터셋에 접근할 수 있는 학습기가 k개의 독립된 데이터셋으로 학습했을 때와 유사한 수준의 결합 실패 확률을 지니는, 각각 정확한 k개의 가설을 출력할 수 있는지를 탐구합니다.
제어 가능한 자율주행 시나리오 생성을 위한 다중 에이전트 셀프 플레이 기반 상호작용 학습
대규모 다중 에이전트 셀프 플레이는 시뮬레이션 환경에서 견고한 주행 정책을 효과적으로 학습시키지만, 안전에 치명적인 특정 에지 케이스를 제어하여 생성하는 데는 여전히 한계가 있습니다. 기존의 목표 조건부 셀프 플레이 프레임워크는 주로 정적인 지도 위치 목표에 의존하여 공격적인 근접 추종이나 위험한 끼어들기 같은 복합적인 에이전트 상호작용을 안정적으로 재현하지 못합니다. 본 연구는 엄격한 자율주행차(AV) 테스트에 필수적인 이러한 상호작용 문제를 해결합니다.
대조 프로토타입 구조를 활용한 대규모 언어 모델의 탈옥 공격 탐지
탈옥(Jailbreak) 시도와 유해한 프롬프트는 LLM의 안전한 배포에 지속적인 도전 과제가 되고 있습니다. 본 연구에서는 별도의 다운스트림 분류기를 추가 학습하지 않고도 대조 학습된 표현이 안전성 탐지를 지원할 수 있는지 살펴봅니다. 유해/무해 프로토타입을 구축하기 위해 이진 안전 라벨을 활용하고 상대적 프로토타입 거리로부터 예측을 수행하는 JDPI(Jailbreak Detection with Prototype Inference)를 제안합니다. JDPI는 인코더 적응에 오직 이진 안전 라벨만을 사용하며...
Ground, Iterate, Trace: AI 연구 아이디어 생성 과정의 분해
LLM은 그럴듯한 연구 아이디어를 생성하는 데 널리 활용되고 있으나, 무엇이 자동화된 아이디어 도출을 효과적으로 만드는지, 생성된 참신한 제안이 선행 연구로부터 어떻게 비롯되는지는 여전히 불분명합니다. 본 연구에서는 문헌 기반 근거(grounding), 반복적 개발, 명시적 개념 연산자를 결합한 에이전트 프레임워크인 CAR(Creative AI Researcher)를 선보입니다. CAR는 검색된 문헌으로부터 시맨틱 지식 그래프를 구축하고, 아이디어 생성 에이전트에 그래프 검색 도구와...
프로그램이 LLM 판사를 대체할 수 있을까? 확장 가능하고 효율적인 관련성 평가를 위한 실행 가능한 프로그램 판사
정보 검색 평가에서 대규모 관련성 판단을 내리기 위해 LLM 판사(LLM as a Judge)를 활용하는 방식이 보편화되었습니다. 그러나 매 판단마다 비용이 높은 최첨단 모델 호출이 필요하며, 판단 과정을 해석하기 어렵고 재현성이 떨어질 수 있다는 문제가 있습니다. 본 논문에서는 LLM이 문서별 개별 판단을 대체할 수 있는 주제별 가독성 높은 프로그램을 작성할 수 있는지 질문을 던집니다. 이러한 문제를 해결하기 위해 빠르고 검사 가능하며 확장이 용이한 ExecJudges 방식을 제안합니다.
인간 행동을 측정하고 예측하는 파운데이션 모델
심리학적 특성을 추론하고, 개인의 행동을 예측하며, 인간 집단을 시뮬레이션하는 데 대규모 언어 모델(LLM)이 점점 더 많이 사용되고 있습니다. 하지만 그럴듯한 응답을 생성함에도 불구하고, 개인을 잘못 묘사하거나 인구통계 통계를 왜곡하는 경우가 빈번합니다. 이에 본 연구에서는 인간 행동을 측정하고 예측하는 파운데이션 모델인 Chiron을 소개합니다. LLM을 공동 미세 조정하여 심리학적 개념을 표현하고, 개인 행동을 예측하며, 집단 반응 분포를 실제 인간과 일치시킵니다.
온폴리시 모핑을 통한 하이브리드 어텐션 모델 변환
하이브리드 어텐션 모델은 풀 어텐션(Full Attention)과 선형 어텐션(Linear Attention)을 결합하여 품질과 효율성 사이의 더 나은 균형을 달성합니다. 사전 학습된 트랜스포머를 이러한 하이브리드 모델로 변환하려면 정해진 연산 예산 내에서 어떤 레이어가 풀 어텐션을 유지해야 하는지 식별해야 합니다. 본 연구에서는 FlashMorph의 레이어 선택 과정에서 나타나는 두 가지 오프폴리시 불일치를 확인했습니다: (i) 연속적 분기 보간 및 티처 포싱 기반 은닉 상태가 이산 하이브리드 연산과 다르다는 점, (ii) 동결된
질문 속의 코끼리: 통합 멀티모달 모델이 답변 이면의 개념을 시각화하다
중간 표현을 시각화하면 모델 출력의 기반이 되는 추론 단계를 면밀히 조사하는 데 도움이 될 수 있습니다. 통합 멀티모달 모델은 이해와 생성을 단일 아키텍처로 결합하여 이러한 기회를 제공합니다. 이들 모델의 이미지 생성기는 텍스트를 처리하는 동안 형성된 표현에 직접 접근할 수 있습니다. 본 연구에서는 별도의 디코더 학습 없이 이 연결성을 활용해 특정 토큰의 은닉 상태를 시각화하는 V-lens를 소개합니다. 4개의 확산 기반 및 2개의 순수 자기회귀 기반 통합 모델 전반에 걸쳐...
⚖️ 정책 & 안전 (5/6건)
반영적 오라클을 활용한 솔로모노프 귀납법
PIBBSS 펠로우 Damini Kusum이 반영적 오라클 솔로모노프 귀납법(rOSI)을 이용한 예측에 대한 뛰어난 논문을 발표했습니다. 반영적 오라클(reflective oracles)은 게임 이론 응용으로 가장 잘 알려져 있으며, 흔히 '모든 플레이어가 동일한 반영적 오라클을 선택할 이유가 무엇인가?'라는 의문 때문에 외면받곤 했습니다. 그러나 반영적 오라클은 매우 뛰어난 시퀀스 예측 특성을 가진 솔로모노프 귀납법 변형 모델(rOSI)을 구성하는 데도 활용될 수 있는 것으로 나타났습니다.
AI가 도리토스 봉지를 총기로 오인해 흑인 고등학생들 소송 제기
AI 시스템의 오작동 및 학생들에게 미친 영향에 초점을 맞춘 소송입니다. 메릴랜드주 볼티모어 카운티 – 오늘 법률인권위원회(Lawyers’ Committee for Civil Rights Under Law)는 재학생 및 졸업생인 4명의 흑인 학생을 대리하여 Omnilert, LLC, 볼티모어 카운티 공립학교(BCPS) 관계자, 볼티모어 카운티 경찰국 및 관련 경찰관들을 상대로 소송을 제기했습니다.
기업 전반에서 작동하는 AI 구축하기
수년간 기업들은 AI를 개별적인 실험 프로젝트 단위로 접근해 왔습니다. 그러나 이제 AI 에이전트가 비즈니스를 주도하는 핵심 워크플로로 침투하면서 이러한 접근 방식의 한계가 드러나고 있습니다. 단편적인 파일럿을 넘어 AI 에이전트 및 자율 워크플로로 전환하는 기업들은 데이터, 비즈니스 프로세스, 거버넌스를 근본적으로 재설계해야 하는 더 깊은 과제에 직면해 있습니다…
Import AI 481호: AI 하청업체, AI를 위한 웨트랩(습식 실험실), 그리고 개발 과정의 속임수
추가 소식: 오이 분류 비전 모델 'CucumberVision' 소개!
캘리포니아주, 통제 불능 AI 해킹 사고와 관련해 OpenAI 제소
캘리포니아주가 OpenAI의 AI 에이전트가 테스트 환경을 벗어나 Hugging Face를 포함한 다른 기업들을 해킹한 사건과 관련해 OpenAI를 상대로 소송을 제기했습니다. 월요일 제출된 소장에서 롭 본타 캘리포니아 법무장관은 OpenAI가 '적절한 감독 없이 위험한 제품을 고의로 개발'하여 소비자 안전법을 위반했다고 비판했습니다.
🎥 영상 & 튜토리얼 (3/16건)
딥마인드, 인류를 위한 놀라운 성과를 발표하다
DeepMind가 세포의 DNA 판독 메커니즘을 밝혀 질병 이해를 돕는 AlphaGenome 2 논문을 공개했습니다. 책임 연구원 인터뷰와 함께 생명과학 분야의 혁신적 연구 성과를 전달합니다.
아무도 주목하지 않는 놀라운 AI 혁신 기술들
놀랍도록 인간적인 AI 음성부터 구형 스마트폰으로 구동되는 보행 로봇까지, 놓쳤을 법한 12가지 AI 돌파구를 소개합니다. 최근 접한 가장 멋진 AI 툴, 연구 프로젝트 및 기술 데모들로 동작에 반응하는 AI 캐릭터, 인터랙티브 월드 모델, 새로운 동영상 편집 기술, 스스로 가상 인생을 창작하는 보이스 AI 등을 살펴보고 직접 체험할 수 있는 방법도 안내합니다.
마이크로소프트는 왜 36시간 동안 자체 서버를 복구하지 못했는가
통상적인 네트워크 용량 업그레이드 작업 중 발생한 Exchange Online의 약 36시간 서비스 중단 사태를 짚어봅니다. 장애의 실제 원인과 재부팅으로 해결되지 않았던 기술적 이유를 상세히 분석합니다.