테더가 마이크로소프트 비트넷 모델 기반 AI 프레임워크를 출시했다. 이 기술은 스마트폰과 노트북 등 소비자 기기에서 대형 언어모델 학습과 실행을 가능하게 한다. QVAC Fabric 스택의 일부로 분산형 구조를 채택해 기존 엔비디아 GPU 중심 환경에서 벗어났다.
프레임워크는 인텔 AMD 애플 실리콘과 모바일 GPU인 Adreno Mali Apple Bionic을 지원한다. 삼성 갤럭시 S25에서 1억 2,500만 매개변수 비트넷 모델을 바이오메디컬 데이터셋 18,000 토큰으로 10분 만에 미세 조정했다. 아이폰 16에서는 10억 매개변수 모델 학습에 1시간 45분 소요됐고 최대 130억 매개변수까지 테스트됐다.
비트넷 모델은 16비트 모델 대비 VRAM 사용량을 77.8% 줄였으며 모바일 GPU 추론 속도는 CPU 대비 2배에서 11배 빠르다. 테더 CEO 파올로 아르도이노는 스마트폰 AI 학습 가능성을 강조하며 연합학습 지원을 밝혔다. 코드가 Apache 2.0 라이선스로 오픈소스 공개됐다.
프레임워크는 인텔 AMD 애플 실리콘과 모바일 GPU인 Adreno Mali Apple Bionic을 지원한다. 삼성 갤럭시 S25에서 1억 2,500만 매개변수 비트넷 모델을 바이오메디컬 데이터셋 18,000 토큰으로 10분 만에 미세 조정했다. 아이폰 16에서는 10억 매개변수 모델 학습에 1시간 45분 소요됐고 최대 130억 매개변수까지 테스트됐다.
비트넷 모델은 16비트 모델 대비 VRAM 사용량을 77.8% 줄였으며 모바일 GPU 추론 속도는 CPU 대비 2배에서 11배 빠르다. 테더 CEO 파올로 아르도이노는 스마트폰 AI 학습 가능성을 강조하며 연합학습 지원을 밝혔다. 코드가 Apache 2.0 라이선스로 오픈소스 공개됐다.