AI開発における人間の視点

オーストラリア国立大学の工学、コンピューティング、サイバネティクス学部の上級講師であるゼナ・アサード氏は、人間と機械のチームワーク、ロボット工学、自律システム、AIを研究している。

サイエンスフィクションでは、人工知能を人間の知能の反映として描写することが多いが、現実は大きく異なる。AIは当初、人間の知能を機械に複製することとして考案され、知能の意味論に関する議論を引き起こした。

人間の知能は主観的で複雑な概念であり、機械に複製することは困難である。ソフトウェアは二進法で構成されており、人間の思考や意思決定の微妙なニュアンスを反映していない。

AIシステムは目標を持つことができるが、これは人間の意図とは異なる。目標は具体的で測定可能であるのに対し、意図は行動の根本的な目的と動機を含む。AIは意図と推論の能力を持たず、人間の知能を機械に複製することは困難である。

AIの倫理に関する議論では、技術が人間によって進化しているという事実を見逃してはならない。AIシステムの不適切な出力は、設計の欠陥によるものであり、機械が非倫理的であるためではない。

倫理的なAIを実現するためには、データラベラーから消費者まで、AIサプライチェーン全体にわたって倫理的な意思決定を組み込む必要がある。すべてにはコストがかかり、倫理は私たちが支払う用意があるコストに関するものである。