LLMの開発と展開には重要な倫理的責任が伴う。LLMの倫理的課題には、プライバシー、公平性、虚偽情報の拡散、説明責任、知的財産権などが含まれる。これらの課題に取り組むには、技術的、倫理的、手続き的アプローチを組み合わせた多面的な対策が必要である。
若者は、関係性、自己表現、身体的健康に関する話題では AI生成の反応を好むが、自殺念慮のような敏感な話題では大人のメンターの反応を好む。
表現力豊かな音声合成は、単一の感情表現の合成から、より複雑な長期的な行動の合成へと進化しつつある。これにより、人工知能エージェントとの自然な会話インターフェースの実現が期待されている。
デジタルアシスタントの多くが女性として設計されていることは、有害な女性に関する固定観念を助長している。