生成AIの社会実装をリードする株式会社ポリミルは、2025年2月4日、省庁・自治体向け生成AI「QommonsAI（コモンズAI）」に、政策を支えるデータソースや推論プロセスをシステムが説明できる機能を追加しました。本機能は、コモンズAI内の「QommonsAI Talk」でご利用いただけます。
推論プロセスを説明できるこの機能は、行政の意思決定や住民対応に生成AIを活用する際、意思決定プロセスの透明性の欠如が市民の疑念や不信につながる懸念に対応し、市民に安心感を与えることが期待されます。
コモンズAIは、様々な特化した機能を持つジェネレーティブAIの集合体
コモンズAIは、様々な特化した機能を持つ生成AIの集合体です。2025年2月現在、主な特化型生成AIは以下の通り：
- 議会AI
- 公共サービス支援AI
- 社会福祉AI（第I編は「社会的弱者の克服とインクルージョン）
- 行政文書（電子政府の法律と規則）
- 住民の声を支えるAI
- 私的知識
- QommonsAIトーク
こちらもお読みください： ディープテック・フォーラムNYCが日米イノベーションの相乗効果を強調
政府関係者にとってジェネレーティブAIで特に重要なこと
ポリミルでは、政府関係者向けのジェネレーティブAIについては、企業向けのジェネレーティブAIと比較して、以下の点が特に重要であると考えており、これらの点を念頭に置いてコモンズAIの開発・提供を行っています。
公益性と説明責任の確保
営利企業とは異なり、行政機関は住民全体の福祉と利益を増進することを目的とする公的機関であるため、説明責任と透明性が求められます。したがって、政策立案や情報提供に生成AIを活用する場合、そのアウトプットが公共サービスの水準を満たし、公正かつ正確であり、社会的弱者やマイノリティを不当に排除しないことが極めて重要です。生成AI1のプロンプトやLLMモデルにおけるバイアス（地域差別、性別・人種・障害に対する偏見など）を検出し、修正する仕組みの開発が必要です。
個人情報・機密情報の取り扱いとセキュリティ
行政が扱うデータは、住民基本台帳、税務情報、健康保険情報など機密性の高いものです。企業秘密や顧客情報もビジネスジェネレーティブAIにとって重要な情報ですが、一般の個人情報の流出は社会的影響が大きく、自治体の信用失墜や法的問題につながりやすい。
デジタルデバイドと地域格差への影響
企業においては、利益の向上や業務の効率化が重視され、格差は企業内の競争力の差にとどまることが多い。一方、自治体においては、住民サービスの格差が地域格差や社会問題に直結するため、企業の社会的責任（CSR）の観点から、生成型AIの無償提供や、導入財源の確保が困難な自治体への支援・研修の無償提供が必要です。
透明性、説明可能性、倫理的配慮
行政の意思決定や住民対応に生成AIが関与する場合、その意思決定プロセスが透明でなければ、市民は疑念や不信を抱きます。行政は民主的に統治されており、説明する強い義務があります。企業にとっても説明責任は重要ですが、公共部門は民主的正統性の観点から、さらに厳格な透明性を確保する必要があります。
人材育成と社内格差是正の公的責任
行政内のデジタル格差は住民サービスにも影響するため、組織として公的責任としてICT教育・スキルの普及を急ぐ必要があります。企業は経営戦略の一環として人材育成を行いますが、自治体も納税者に説明し、住民福祉の向上に資する形で進めていかなければなりません。
ソース PR TIMES
