AI를 내 컴퓨터에서 실행하는 데 필요한 것
확장 프로그램을 설치했고 시작 페이지도 열려 있는데, AI 모델은 아직 내려받는 중입니다. 20분이 지나도 마찬가지입니다. 고장 난 건 아닙니다. 언어 모델은 큰 파일이고, 컴퓨터는 그 파일을 저장하고, 메모리에 올리고, 실행해야 합니다.
핵심 요약
AI 모델을 내 컴퓨터에서 실행하려면 모델을 담을 메모리, 저장할 디스크 공간, 그리고 한 번의 다운로드가 필요합니다. Chrome Built-in AI의 경우 Windows, macOS, Linux 또는 Chromebook Plus의 Chrome 138 이상, 22GB의 여유 디스크 공간, 그리고 4GB를 초과하는 메모리를 갖춘 그래픽 카드 또는 16GB RAM이 필요합니다.
로컬 AI에 요구 사항이 있는 이유
클라우드 AI 서비스는 회사의 컴퓨터에서 실행되므로 내 컴퓨터에는 브라우저만 있으면 됩니다. 온디바이스 AI는 내 컴퓨터에서 실행되므로, 모델이 내 메모리에 들어가고, 디스크에 저장되고, 프로세서나 그래픽 카드로 계산될 수 있어야 합니다.
노트북용 모델은 데이터 센터의 모델보다 훨씬 작지만 그래도 몇 GB에 이릅니다. 각 요구 사항은 여기에서 나옵니다.
요구 사항별 용도
- 메모리. 모델이 작동하는 동안에는 메모리에 올라가 있어야 합니다. Chrome은 그래픽 카드에 전용 메모리가 4GB를 넘으면 그것을 쓰고, 그렇지 않으면 주 메모리를 씁니다. 이 경우 16GB RAM과 4코어 이상의 프로세서가 필요합니다.
- 디스크 공간. Chrome은 22GB의 여유 공간을 원합니다. 모델 자체는 몇 GB이고, 나머지는 디스크가 가득 차지 않도록 Chrome이 남겨 두는 여유입니다. 나중에 공간이 부족해지면 Chrome이 모델을 다시 삭제할 수 있습니다.
- 운영체제와 브라우저. Windows 10 또는 11, macOS 13 이상, Linux, Chromebook Plus의 Chrome 138 이상. 휴대전화와 태블릿에서는 실행할 수 없습니다. Android와 iOS의 Chrome은 확장 프로그램을 지원하지 않기 때문입니다.
- 인터넷은 한 번만. 모델은 처음 사용할 때 데이터 무제한 연결로 다운로드됩니다. 그 뒤로는 오프라인에서 작동합니다.
내 컴퓨터 확인하는 법
chrome://settings/help를 열어 Chrome 버전을 확인하고 필요하면 업데이트하세요.- 시스템의 저장공간 설정에서 디스크 여유 공간을 확인하세요.
- 시스템 정보에서 그래픽 카드 메모리와 RAM을 찾아보세요. 최근 몇 년 사이의 노트북이라면 대부분 둘 중 하나는 충족합니다.
- 최종 확인은
chrome://on-device-internals에서 하세요. Chrome이 모델을 실행할 수 있는지, 그리고 할 수 없다면 그 이유를 보여 줍니다.
내 컴퓨터에서 실행될까요?에는 같은 단계와 모든 요구 사항이 표 하나에 정리되어 있습니다.
처음 사용할 때의 모습
Chrome은 처음 설치할 때 모델을 포함하지 않습니다. 기능이 처음으로 모델을 필요로 할 때 Chrome이 백그라운드에서 다운로드합니다. 연결 상태에 따라 시간이 걸리지만, 그동안에도 계속 인터넷을 사용할 수 있습니다.
Private Writing Assistant에서는 시작 페이지가 Chrome 버전을 확인하고, 모델이 준비되었는지, 다운로드 중인지, 사용할 수 없는지 보여 주며, 다운로드를 시작하는 버튼도 있습니다. 다운로드가 끝나면 검사가 저절로 시작됩니다.
'사용할 수 없습니다'라고 나온다면
Chrome이 이 컴퓨터나 프로필에서 아직 모델을 실행할 수 없다고 판단했다는 뜻입니다. Chrome 업데이트, Chrome 설정에서 기기 내 AI 켜기, Chrome 다시 시작을 시도해 보세요. 확장 프로그램의 메뉴에도 이 단계가 표시됩니다. 아무것도 효과가 없다면 컴퓨터가 위 요구 사항 중 하나를 충족하지 못할 가능성이 높습니다. 이는 확장 프로그램이 아니라 Chrome의 판단이므로, Chrome Built-in AI를 사용하는 모든 도구가 같은 답을 받습니다.
그만한 가치가 있을까?
모델이 내 컴퓨터에 자리 잡으면 오프라인에서 작동하고, 사용 횟수 제한이 없으며, 글을 서버로 보내지 않는 AI를 쓸 수 있습니다. 그 맞교환에 대해서는 ‘온디바이스 AI’는 무슨 뜻일까요?에서 더 자세히 다룹니다.
내 컴퓨터가 준비되었는지 알아보세요. Private Writing Assistant를 Chrome에 추가하면 시작 페이지가 확인해 드립니다.