커스텀 AI 칩 Taalas HC1이 17K tok/s로 기존 GPU 대비 10배 빠른 추론 시연, GGML/llama.cpp가 Hugging Face에 합류하며 로컬 AI 생태계 통합 가속, 삼성은 Galaxy S26에 Perplexity 탑재해 멀티에이전트 시대 선언

스타트업 Taalas가 Meta Llama 3.1 8B 모델을 실리콘에 직접 구현(하드와이어링)한 HC1 칩을 공개. TSMC 6nm 공정, 815mm², 530억 트랜지스터. 사용자당 약 17,000 tok/s 추론 속도를 달성해 Cerebras(~2,000 tok/s)의 10배, Groq(~600 tok/s)의 28배 성능. 제조 비용 20배 절감, 전력 소비 10배 감소. 단, 하드와이어된 단일 모델만 실행 가능하며 LoRA 어댑터를 통한 파인튜닝은 지원.

• Taalas HC1 hardwired AI accelerator - CNX Software—
• Taalas HC1: Absurdly Fast, Per-User Inference - Kaitchup—

Georgi Gerganov(ggml 창시자)와 GGML.ai 팀 전원이 Hugging Face에 합류. llama.cpp, whisper.cpp, GGUF 포맷 등 로컬 추론 핵심 스택이 최대 모델 허브와 통합. MIT 라이선스 유지, 오픈소스 지속.

• GGML and llama.cpp join HF - Hugging Face Blog—
• What This Means for Local Model Optimization - SitePoint—

삼성이 Galaxy S26 시리즈에 Perplexity AI를 시스템 레벨로 통합. 'Hey Plex' 음성 명령 또는 사이드 버튼으로 호출. Bixby, Gemini와 함께 '멀티에이전트 생태계' 구축. Perplexity가 Samsung Notes, Calendar, Gallery 등 네이티브 앱에 접근 가능.

• Samsung is adding Perplexity to Galaxy AI - The Verge—
• Samsung Galaxy S26 Multi-Agent Ecosystems - OpenTools AI—

SemiAnalysis가 AI 데이터센터의 수요응답(Demand Response) 프로그램 경제성을 분석. 피크 시간 전력 사용 줄이면 전력 요금 크레딧을 받지만, AI 클라우드에는 그 금액이 가치 없음. 진정한 인센티브는 수요응답 계약으로 전력 인터커넥션(연결 승인)을 빠르게 확보하는 것. ERCOT과 PJM이 관련 규칙 수립 중이나 아직 워크숍 단계.

• AI, Data Centers, and the U.S. Electric Grid - Harvard Belfer Center—
• How Data Centers Are Learning to Flex for the Power Grid—

칭화대 연구팀이 SpargeAttention2를 발표. 비디오 디퓨전 모델(Sora 계열)의 어텐션 연산에서 95% 희소성을 달성하면서 생성 품질 유지. Top-k와 Top-p 마스킹을 결합한 하이브리드 방식과 증류 기반 파인튜닝 목적함수 제안. 16.2배 어텐션 속도 향상.

• SpargeAttention2 - arXiv—
• SpargeAttention2 Full Paper—

중국의 BCI 산업이 연구 단계를 넘어 상용화로 빠르게 전환 중. BrainCo, NeuroXess, Gestala 등 스타트업이 임상시험을 확대하고 투자를 유치. 정부의 강력한 정책 지원과 규제 완화가 가속화 요인. Neuralink, Synchron 등 미국 기업과의 경쟁 심화.

• China's BCI industry is racing ahead - TechCrunch—

Quantonation Ventures가 2호 펀드를 €220M(약 $260M)으로 클로즈. 1호 펀드(€91M) 대비 2.4배 규모. 양자컴퓨팅 전용 VC로는 세계 최대. Vertex Holdings, Bpifrance, EIF, Novo Holdings, Toshiba 등 참여. 이미 12개 기업에 투자 진행.

• Quantonation Fund II Announcement—
• Quantonation Fund II - Quantum Computing Report—

Karpathy가 'Claw'를 Chat→Code 다음의 AI 스택 새 레이어로 정의. OpenClaw, NanoClaw(4000줄 코어), ZeroClaw, IronClaw 등 개인 AI 에이전트 시스템이 폭발적 증가. NanoClaw는 '스킬로 코드를 수정하는' AI 네이티브 설정 방식을 도입. 보안 우려(RCE 취약점, 악성 스킬, 공급망 공격)도 지적.

• Andrej Karpathy talks about Claws - Simon Willison—
• Karpathy original tweet—

AI 서버 설계로 PCB 레이어 수가 8-24층에서 28-46층으로 증가하면서 제조 복잡도가 기하급수적으로 상승. 드릴링 종횡비(aspect ratio)가 8-10x에서 12-14x로 올라가고 드릴 비트 수명이 3,000홀에서 600홀로 5분의 1로 감소. 드릴 비트, 백드릴링 장비, 서포트 플레이트 모두 부족 상태. 대만 업체들(ToPoint, Ta Liang 등)과 미쓰비시 등이 수혜.

• SemiAnalysis PCB drilling thread—

SemiAnalysis가 프론티어 MoE(Mixture of Experts) 모델의 최적 서빙 아키텍처를 분석. Wide Expert Parallelism(WideEP)과 대규모 스케일업 월드사이즈가 8-way 박스 클러스터링 대비 중간 인터랙티비티에서 경제성과 속도 모두 우위. Google TPU, AWS Trainium, NVIDIA NVL72가 이미 대규모 랙 스케일업 기반으로 프로덕션 토큰 서빙 중. 업계는 이미 Dense 모델을 넘어섰다고 판단.

• SemiAnalysis WideEP analysis—

Elon Musk가 '우주에서 태양광으로 AI 추론을 구동하는 것이 가장 경제적'이라는 비전을 재확인. 무한 태양 에너지, 냉각 용이성, 토지/전력 규제 부재 등이 논거. SpaceX Starship의 발사 비용 감소가 이를 가능하게 한다고 주장.

• Elon Musk RT on space AI inference—