AIのいいところと、危ないところ

ここ2回、「AIに聞いて店を探す人が増えている」という話を書きました。
ただ、AIを勧める話ばかりを書くのは、正直ではないと思っています。便利さと危うさは、同じところから来ているからです。
今日は、その両方を並べてみます。

いいところ：白紙から始めなくてよくなる

AIのいちばんの価値は、私は「たたき台をくれること」だと思っています。
記録の下書き、お知らせの文面、説明の言い換え。ゼロから書き出す時間が、直す時間に変わります。

介護の現場でも、お店でも、これは同じです。書くのが苦手な人ほど効きます。
文章が得意な人に一人だけ頼っていた仕事が、何人かで回せるようになる。この変化は、地味ですが大きいです。

危ないところ：間違いを、堂々と言う

一方で、これは知っておいてほしいことです。
AIは、間違ったことを、正しいことと同じ口調で言います。　ここが検索と決定的に違うところです。

検索なら「このサイトは怪しい」と自分で判断できます。でもAIの答えは、整った文章で一つだけ出てくるので、判断するきっかけがありません。
特に、制度・料金・日付・固有名詞。このあたりは平気で違っていることがあります。

だから、こう線を引いています

私の中の線引きは、こうです。

• たたき台を作らせるのはOK（下書き、要約、言い換え）
• 事実の確認には使わない（制度、金額、締切は必ず一次情報で裏を取る）
• 最終判断は必ず人が行う（特にケアや、お金や、人に関わることは）

「使うな」でも「万能だから任せろ」でもない。道具として、得意なところだけ使う。　それがいちばん現実的だと思っています。

怖がる感覚は、正しい

AIの話をすると、「なんとなく怖い」と言われることがあります。私は、その感覚はまったく正しいと思っています。
中身が見えないものを警戒するのは、自分の仕事に責任を持っている証拠です。

だから、いきなり全部を任せる必要はありません。
一つだけ小さく試して、答えを自分の目で確かめて、合わなければやめる。それを何回か繰り返すうちに、「ここは任せられる、ここは無理だ」という自分なりの線が見えてきます。その線こそが、AIリテラシーなのだと思います。

Cometが作っているAI助も、介護書類の「下書き」を支える道具です。判断を代わりにするものではありません。
AIとの付き合い方に迷ったら、その話だけでも聞きに来てください。ご相談は無料です。