OpenAIで研究部門を率いるJakub Pachocki（ヤクブ・パホツキ）氏が、社内外に向けて異例ともいえる率直な見解を発表しました。要約すると「AIはもはや人間とは異質な知性を持ちつつあり、それをどう制御するかは世界規模の課題だ」というものです。AI開発の最前線にいる人物がこうした警戒感を公に示したことは、AI導入を検討している経営者にとっても無視できないシグナルです。この記事では、Pachocki氏の発言の意味を噛み砕いたうえで、中小企業が業務でAIを使う際に設けておくべきルールの具体例を整理します。
「宇宙人のような知性」とはどういう意味か
Pachocki氏が使った「An Alien Mind（宇宙人のような知性）」という表現は、詩的な比喩ではなく、かなり技術的な観察から来ています。現在のAI——たとえばChatGPT（OpenAIが提供する対話型AIサービス）のような大規模言語モデルは、膨大なテキストを学習して人間らしい文章を生成できますが、その「考え方のプロセス」は人間のそれとまったく違います。人間が経験や感情をもとに判断するのに対し、AIは統計的なパターンから出力を決めています。つまり、同じ言葉を話していても、その言葉を生み出すしくみが根本的に異なるわけです。
Pachocki氏が特に懸念しているのは、このギャップが埋まらないまま能力だけが上がり続けている点です。AIが「正しい答えを出す」場面は増えても、「なぜその答えを出したのか」を人間が完全に把握できているわけではありません。彼はこの状況に対して、より強力な安全策と国際的な協調が必要だと訴えています。これはAI業界の内輪話ではなく、実際にAIを業務で使う会社にとっても直接関係する話です。なぜなら「AIが自信満々に間違えることがある」という特性は、今日のChatGPTやその他のAIツールにも変わらず存在するからです。
AIが「自信満々に間違える」問題を業務で考える
AIが間違いを犯す、という話は技術者でなくても直感的に理解できると思います。ただ、業務上のリスクとして意識している会社はまだ少数派です。問題は「間違えること」よりも、「AIが間違いを間違いだと提示しない」点にあります。
従業員20人ほどの会計事務所を例に考えてみましょう。担当者がChatGPTに「この費用は何費に分類すればよいか」と質問し、もっともらしい回答が返ってきたとします。その回答が正確であれば業務は効率化されますが、誤った分類を自信を持って提示された場合、担当者が気づかずにそのまま処理してしまうリスクがあります。AIは「わかりません」とはなかなか言わない——これがPachocki氏の言う「制御の難しさ」の、ごく身近な現れです。
ChatGPTをはじめとするAIツールは、使い方によって業務を大きく助けてくれます。一方で、ChatGPTの使い方ガイドでも触れているように、出力結果を人間が必ず確認するフローを組み込まないと、誤った情報をそのまま使ってしまう場面が生まれます。この確認フローをきちんと設計できているかどうかが、安全な活用と危うい活用を分ける境目になります。
中小企業が実際に設けているAI利用ルール
「じゃあ、何をルールにすればいいのか」という点が、経営者・管理部門にとって最も実践的な問いです。編集部では、AIを業務に取り入れている中小企業（従業員数10〜80人規模）の担当者への取材をもとに、実際に運用されているルールを整理しました。以下は、業種を問わず参考にしやすいひな型です。
【AI業務利用ルール ひな型】
● 入力してはいけない情報
– 顧客の氏名・住所・連絡先などの個人情報
– 取引先との契約内容・価格条件
– 未公開の新製品・サービスの情報
– 社員の評価・給与・人事情報
– 社外秘と指定された資料の内容
● 出力を必ず人間が確認する場面
– 顧客・取引先に送る文書・メールの内容
– 数値計算・集計を含む回答（数字はAIが誤りやすい）
– 法令・規制・税務に関わる判断
– 求人票・雇用契約に関わる文章
● 利用を認める用途（例）
– 社内向け文書の下書き作成
– 会議の議事録整理（固有名詞を伏せた状態で）
– アイデア出しや箇条書きの整理
– メールの文体チェック・リライト
このひな型は「絶対に守るべき規則」というより、社内でのルール作りの出発点として使ってください。従業員5人の会社と50人の会社では守るべき範囲が変わりますし、扱う情報の種類によっても調整が必要です。ただし、「個人情報をAIに入力しない」だけは業種・規模を問わず最低限の基準として押さえておくことを勧めます。
「国際的な協調が必要」という話が自社に関係する理由
Pachocki氏は、AI安全性の問題は一企業や一国では解決できないとも述べています。国際的なルール作りは実際に動き出していて、EUのAI規制（AI Act）はすでに施行に向けて動いており、日本政府もガイドライン整備を進めています。こうした外部のルールが整備されるにつれて、企業側にも対応が求められる場面が増えてきます。
今は「使ってみて何かあったら考えよう」という対応でも回るかもしれませんが、数年後には取引先から「AI利用に関する社内ポリシーを見せてほしい」と求められるケースが出てきても不思議ではありません。実際、大企業ではすでにサプライヤーへのAI利用確認を始めているところもあります。自社のルールを文書化しておくことは、内部統制としてだけでなく、取引先への説明責任という観点からも価値が出てきています。
営業担当が3人の小さな会社でも、提案書の下書きにChatGPTを使うなら、「どこまでの情報を入力してよいか」を文書化しておくことで、担当者が変わっても同じ基準で使い続けられます。ルール作りは大企業の話ではなく、むしろ小さな組織ほどルールを共有しやすい立場にあります。
AIを過度に恐れず、過度に信頼しないための視点
Pachocki氏の発言を読んで「やっぱりAIは怖い、使わないほうがいい」という結論に飛びつくのは早計です。同氏はAI開発を止めるべきだとは言っていません。むしろ、強力なツールだからこそ制御の仕組みをしっかり作ろうと訴えています。
ここで判断の軸になるのは「どのような場面で使うか」です。AIに向いているのは、出力を人間が必ず確認できる用途、かつ間違いが起きても取り返しのつく場面です。反対に、AIだけに任せるのが危ういのは、専門的な判断が必要な場面や、誤りが外部に直接影響する場面です。前者の例なら「社内向け資料の構成案を作る」、後者の例なら「顧客への税務アドバイスをそのまま送る」といったイメージです。
どのツールを使う場合も、プロンプトの書き方を工夫することで出力の精度は上がります。ただし、プロンプトを磨いても「AIが間違えない」わけではありません。使い方の工夫と、確認フローの設計は、セットで考える必要があります。
まとめ
OpenAIの研究責任者が「AIは宇宙人のような知性だ」と表現した背景には、能力の急伸と、それを人間がどこまで制御できるかという問いへの真剣な危機感があります。これは学術的な議論ではなく、日々の業務でAIを使う会社が「どう付き合うか」を考えるうえで、同じ問いを共有しているということです。
自社のAI利用ルールがまだ口頭の申し合わせだけ、あるいはそもそも何も決まっていないという状態なら、まず「入力してはいけない情報」を一枚の紙に書き出してみてください。それだけで、担当者の判断がずいぶん変わります。もし社内ルールをどの範囲まで設けるべきか迷うようであれば、AI導入の相談窓口に確認してみるのも一つの手です。
