「オンデバイス AI」とは何のこと?
オンデバイス AI とは、AI モデルを企業のサーバーではなく、自分のパソコンやスマートフォンで動かすことです。入力した内容はその場で処理されるので外に送る必要がなく、インターネットにつながっていなくても機能は動き続けます。
クラウド AI とオンデバイス AI
これまで使ってきた AI 機能の多くはクラウド AI です。リクエストがデータセンターに届き、大きなモデルがそこで処理し、答えが送り返されます。モデルは企業のコンピューターから出ないので、あなたの入力のほうが出向く必要があります。
オンデバイス AI はこれを逆にします。モデルはあなたのディスク上のファイルです。機能が必要とするときにパソコンのメモリに読み込まれ、プロセッサやグラフィックスカードで動きます。入力はその場にとどまり、モデルのほうがあなたのところに来たわけです。
あなたにとって変わること
- プライバシー。入力が端末の外に出ないので、保存されたり、漏れたり、学習に使われたりするコピーがどこにもありません。
- オフラインで使える。モデルをダウンロードした後は、飛行機の中でも電車の中でも、外部サービスを遮断するネットワークでも動きます。
- アカウント不要。あなたが誰かを知る必要があるサーバーも、リクエストを数えるサーバーもありません。
- 安定した速さ。結果が、そのときの回線の良し悪しに左右されません。
その代わりに必要なもの
ノートパソコンに収まるモデルは、データセンターのモデルより小さくなります。自由な調べものや長いエッセイよりも、文章のチェックや書き換えのような的を絞った作業向けです。さらに、一定の性能のハードウェア、空きディスク容量、最初に使う前の数 GB の一度きりのダウンロードが必要です。
この交換条件が見合う作業もあれば、見合わない作業もあります。誰にも渡したくない文章なら、的を絞った手元のモデルのほうが割に合うことが多いでしょう。
Chrome Built-in AI
Google Chrome には、ウェブサイトや拡張機能が使えるオンデバイス AI が搭載されるようになりました。それが Chrome Built-in AI です。Chrome がモデルを一度ダウンロードし、それを使う機能は手元で実行します。
必要な条件は Chrome が決めています。Windows、macOS、Linux、Chromebook Plus の Chrome 138 以降、22 GB の空きディスク容量、そして 4 GB を超えるメモリを持つグラフィックスカードか 16 GB の RAM です。モデル自体は数 GB で、22 GB は Chrome が空けておきたい容量です。各条件の確認方法は動作環境のページで説明しています。
本当に端末上で動いているかを見分けるには
- Wi-Fi をオフにしても動き続ける。
- プライバシーポリシーに、入力がどこで処理されるかが書かれている。「安全」「暗号化」とだけ書かれているのではない。
- モデルのダウンロード、またはブラウザや OS が用意するモデルを必要とする。
「暗号化」が説明しているのはサーバーまでの道のりだけです。文章が届いた後に何が起きるかについては、何も語っていません。
Private Writing Assistant の位置づけ
Private Writing Assistant は Chrome Built-in AI の上に作られています。スペルと文法のチェック、そして書き換えは、101 の言語であなたのパソコン上で動き、ウェブサイトで書いた文章が私たちや AI サービスに送られることはありません。文章に何が起きるのかは仕組みで順を追って説明しています。
毎日書く場所でオンデバイス AI を試してみませんか。Private Writing Assistant を Chrome に追加しましょう。無料で、アカウントも不要です。