そもそも安全なAIってなんだろう？

このコースは、会社でAIのルール作りを任された人のために書いています。

全20章と付録2本。順番に読むと、安全なAIの見分け方から社内の相談への答え方までが、年間の運用の手順として一本につながります。

第一部は、安全なAIは3つ。倫理・セキュリティ・契約です。

第二部は、回す前に決めるのは2つ。書く場所と、担当です。

第三部は、回す仕事は9つ。

第四部は、作る側。ここだけ数でなく、ゲートで見る3章です。

そのあとに終章と付録。

こんにちは、だらリーヌです！　製造業の会社で働いています。前の職場は同じ会社の中の、AIガバナンスを推進する部署。

AIガバナンスとはざっくりいうと、会社としてAIを安全に使うためのルール作りと、その運用のことを指します。

いまは製造部門に移って、AI活用の推進をやっています。

そもそも、安全なAIってなんだろう？　この章は、そこから始めます。

会社で使っていい安全なAIとは、倫理的に安全で、セキュリティがしっかりしていて、契約に問題がないAIのことです。

3つとも外せません。だから、この本では3つを1章ずつ見ていきます。倫理が第2章、セキュリティが第3章、契約が第4章。

「安全」は3つでできている

会社が「そのAIはダメ」と言うとき、中身はこの3つのどれかの不安です。倫理、セキュリティ、契約。

倫理は、そのAIを何に使うか。用途を見て、使ってはいけない用途かどうかを仕分けます。

たとえば、採用の合否や人事評価をAIに決めさせる。人の人生に関わる判断を機械に任せると、会社の名前で問題になります。

セキュリティは、入れた情報がどこへ行くか。機密情報や個人情報を入れて、外に漏れないか、です。

たとえば、顧客リストや図面を、個人で登録した無料のAIに貼る。入れた情報が学習に使われ、外に出る可能性があります。

契約は、利用規約や契約書に、会社として飲めない条件がないか。入れたデータの扱いや、責任の範囲がそこに書いてあります。

その規約の上には、サービスを作っている会社がある国の法律があります。

たとえば、利用規約に「入力したデータを学習に使う」「損害は一切補償しない」と書いてある。会社として飲めない条件が、そこにあります。

たとえば「ChatGPTを使いたい」と相談されたら。倫理は使い道を、セキュリティは入れる情報を、契約は規約を見ます。

分けずに「なんとなく不安」のままだと、ダメとしか言えません。分ければ、確かめることが3つに決まります。

会社の「ダメ」は、この3つの確認に置き換えられます。

次の章は、3つのうち、まず倫理。用途で仕分けると、使ってはいけない用途が決まります。