• BOS-6-009
• SFO-6-010
• YVR-6-011
• BLR-6-012
• EDI-6-017
• LON-6-018

AIアルゴリズムのAI透明性と検知バイアス

• Bangalore
• Boston
• Edinburgh
• London
• San Francisco Bay Area
• Vancouver

人工知能システムは非常に複雑なシステムであるため、一般に「ブラックボックス」と呼ばれます。また、どの要素が決定や予測につながったのか、またその決定方法や予測方法を特定することは困難です。NTTデータでは、AIアルゴリズムが行う推奨や決定について、定量的な説明をおこなうことができる製品やサービスを求めています。この透明性が重要になるのは、AIを基盤として、刑事裁判や金融融資など、信用に関わる事案や予測が社会的影響を及ぼすような用途です。

同様に、NTT DATAは、アルゴリズムを学習させる必要のあるデータセット内のバイアスや、学習済みのAIアルゴリズムにおけるバイアスの潜在性を特定する製品およびサービスも求めています。そのバイアスは、不十分なサンプルサイズ、不適切なデータなどとして検出される場合があります。アルゴリズムは、学習程度に応じてデータとしての良し悪しが問題となるため、人種、性別、社会、民族に関わるバイアスを含む可能性のあるデータの検出が重要となります。そのため、バイアスの存在する兆候を精査し、潜在的なバイアスを特定し、推奨事項を示すソリューションが理想的であると言えます。