「オンデバイス AI」とは何のこと?

オンデバイス AI とは、AI モデルを企業のサーバーではなく、自分のパソコンやスマートフォンで動かすことです。入力した内容はその場で処理されるので外に送る必要がなく、インターネットにつながっていなくても機能は動き続けます。

クラウド AI とオンデバイス AI

これまで使ってきた AI 機能の多くはクラウド AI です。リクエストがデータセンターに届き、大きなモデルがそこで処理し、答えが送り返されます。モデルは企業のコンピューターから出ないので、あなたの入力のほうが出向く必要があります。

オンデバイス AI はこれを逆にします。モデルはあなたのディスク上のファイルです。機能が必要とするときにパソコンのメモリに読み込まれ、プロセッサやグラフィックスカードで動きます。入力はその場にとどまり、モデルのほうがあなたのところに来たわけです。

あなたにとって変わること

その代わりに必要なもの

ノートパソコンに収まるモデルは、データセンターのモデルより小さくなります。自由な調べものや長いエッセイよりも、文章のチェックや書き換えのような的を絞った作業向けです。さらに、一定の性能のハードウェア、空きディスク容量、最初に使う前の数 GB の一度きりのダウンロードが必要です。

この交換条件が見合う作業もあれば、見合わない作業もあります。誰にも渡したくない文章なら、的を絞った手元のモデルのほうが割に合うことが多いでしょう。

Chrome Built-in AI

Google Chrome には、ウェブサイトや拡張機能が使えるオンデバイス AI が搭載されるようになりました。それが Chrome Built-in AI です。Chrome がモデルを一度ダウンロードし、それを使う機能は手元で実行します。

必要な条件は Chrome が決めています。Windows、macOS、Linux、Chromebook Plus の Chrome 138 以降、22 GB の空きディスク容量、そして 4 GB を超えるメモリを持つグラフィックスカードか 16 GB の RAM です。モデル自体は数 GB で、22 GB は Chrome が空けておきたい容量です。各条件の確認方法は動作環境のページで説明しています。

本当に端末上で動いているかを見分けるには

「暗号化」が説明しているのはサーバーまでの道のりだけです。文章が届いた後に何が起きるかについては、何も語っていません。

Private Writing Assistant の位置づけ

Private Writing Assistant は Chrome Built-in AI の上に作られています。スペルと文法のチェック、そして書き換えは、101 の言語であなたのパソコン上で動き、ウェブサイトで書いた文章が私たちや AI サービスに送られることはありません。文章に何が起きるのかは仕組みで順を追って説明しています。

毎日書く場所でオンデバイス AI を試してみませんか。Private Writing Assistant を Chrome に追加しましょう。無料で、アカウントも不要です。

Chrome に追加