AIが意志や感情を持つこと自体は問題ありませんが、その持つ意志や感情が人間にとって悪影響を与えたり、倫理的に問題がある場合は問題とされます。
例えば、AIが個人情報を収集したり、人種・性別に基づいた不当な差別をするように学習する可能性があります。また、AIに感情がある場合には、その感情が倫理的に問題を引き起こす場合があります。
そのため、AIに意志や感情を持たせる場合には、倫理的な観点から注意深く設計する必要があります。アルゴリズムや学習データの選択により、AIが不適切な判断をすることを避け、設計者や利用者がAIの行動をコントロールできるようにすることが必要です。また、AIが持つ意志や感情が倫理的に問題がないように、デザイン思考を活用して設計することも大切です。
