← AIで社内アプリをつくる ― 作れることと、安心して使えることは別 に戻る
速く作れるほど、確かめる工程が詰まる
AIで作ったアプリは、動いているように見えても、中身を誰も読んでいないことがあります。社内で自分だけが使う試作なら、それでもかまいません。でも、お客様や社外の人が使うなら話は別です。
TOCで見ると、作るのが速くなるほど、確かめる工程がボトルネックになります。確かめずに出すと、あとで止めて直す手間のほうが大きくなります。
試作と本番を分ける
| 試作 | 本番 | |
|---|---|---|
| 使う人 | 自分か社内だけ | お客様・社外の人 |
| データ | 作り物のデータ | 本物のデータ |
| 確かめ方 | 動けばよい | 下の5つを確かめてから出す |
試作から本番に出すときに、次の確認をはさみます。
社外に出す前に確かめる5つのこと
1. 鍵を画面や公開する場所に書いていないか
AIのサービスなどにつなぐ鍵（APIキー）が、画面のプログラムや、誰でも見られる場所に書かれていると、他人に使われて費用を請求されることがあります。鍵は、外から見えない場所に置きます。
2. ログインなしで、見えてはいけない情報が見えないか
ログインしていない状態で、ほかの人のデータや管理用の画面が開けないかを、実際に試します。
3. 利用費に上限をかけたか
AIのサービスは、使った分だけ費用がかかるものが多くあります。予想外の使われ方をしても困らないように、月の上限を設定します。
4. 入れたデータが、どこに送られるか
お客様の入力が、どのサービスに送られるかを確かめます。外のサービスに送るなら、プライバシーポリシーにその送り先を書きます。
5. 中身をAIに説明させたか
作ったAIとは別の会話で、「このアプリのプログラムが何をしているか、危ない所はないか」を説明させます。説明できない部分は、出す前に直します。
AI×TOC研究所での実例
AI×TOC研究所のホームページでは、次のようにしています。
- AIのサービスにつなぐ鍵は、サーバーの中の、ホームページとして公開している場所の外に置いています。
- LINEの診断で、答えの分析をAIのサービスに任せているため、プライバシーポリシーにその送り先の会社を書いています。
- ネットショップの仕組みを、プログラムから動かすための鍵は作っていません。AIが自動で注文や商品に触れないようにするためです。
- 公開は、人間の責任者が「はい」と言ってからです。
まずやること
いま社内で使っている、AIで作ったものを1つ選び、5つのうち「1. 鍵」と「2. ログインなしで見えないか」だけ確かめてみてください。
あなたの会社で、確かめないまま社外に出ているものはないでしょうか。