Hacker NewsAI · 머신러닝

애플, 로컬 AI 모델 실행 'Harbor' 앱 개발 중

원제 Apple has new Mac app coming to make running local AI models easy

114 포인트댓글 94
Key Point

개발자와 AI 모델 개발사가 프라이빗하게 로컬 추론을 수행할 수 있는 환경이 Apple의 공식 솔루션으로 제공되면서, Mac을 AI 워크로드에 더 실용적인 선택지로 만들 수 있게 된다.

핵심 요약

  • 애플이 Mac에서 로컬 AI 모델을 쉽게 실행할 수 있도록 돕는 'Harbor'라는 새로운 앱을 개발 중인 것으로 드러났다.
  • Harbor는 Mac을 개인 AI 추론 서버로 변환하며, 사용자 데이터는 기기에만 머물고 클라우드로 전송되지 않는다.
  • Apple silicon에서 오픈 가중치 모델을 로컬로 실행할 수 있으며, 설정은 몇 분 내에 완료된다.
  • 앱 내에서 직접 모델을 검색하고 다운로드할 수 있으며, Harbor가 모델 관리를 자동으로 처리한다.
  • 여러 Mac을 Thunderbolt 5로 연결하면 통합 메모리를 풀링해 단일 컴퓨터가 처리하기 어려운 큰 모델을 실행하거나 더 많은 동시 요청을 처리할 수 있다.
  • Thunderbolt 5 장치는 자동으로 감지되며 클러스터를 형성할 때 수동 설정, 명령어 입력, 인프라 지식이 필요 없다.
  • Harbor는 현재 Apple의 Claris 브랜드 아래 비공개 미리보기 상태이며, 앞으로 공개 출시될 것으로 예상된다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗