言語モデルの単語は参照するか？

Belangrijkste concepten

外部主義哲学からの洞察に基づいて、言語モデルの単語は実際に参照を達成する可能性がある。

Samenvatting

言語モデル（LMs）が生成する文は意味を持つかどうか、およびそれらの単語が参照を達成するかどうかに焦点を当てた議論。LMsの入力は文字列だけでなく、自然な歴史も含まれることから、その単語が参照される可能性があることを示唆。外部主義哲学からの考え方や例を用いて、LMsの単語がPeanoなどを指す可能性について探求。LMsが言葉を参照するために必要な条件や意図について検討し、一般的な話者と比較してその能力や制約について考察。

Statistieken

LMsは文字列だけでなく、自然な歴史も含まれる。
参考文献：Bender et al. (2021)、Kripke (1980)、Putnam (1975)
LukeはPeanoに関する事実的な信念や経験を持っていなくても、「Peano」をPeanoに指すことができる。
外部主義哲学では、言葉の参照はスピーチコミュニティーとの因果的歴史に根ざしている。
LMsは外部世界から孤立しているため、「word-to-world」接続が難しいという懸念がある。

Citaten

"Reference turns out to be surprisingly disconnected from speakers’ beliefs, and surprisingly easy."
"Simply being part of a speech community whose use of a word is historically connected to a particular referent in the right way suffices for a speaker to be able to produce a referring instance of that word."
"Izzy’s words can refer to the external world even though he is profoundly isolated from it, because reference is grounded in the causal-historical chains running through a speech community connecting a use of a word to its referent."

Belangrijkste Inzichten Gedestilleerd Uit

Do Language Models' Words Refer?

by Matthew Mand... om arxiv.org 03-04-2024

https://arxiv.org/pdf/2308.05576.pdf

Diepere vragen

外部主義哲学から見た場合、LMsの単語が実際に参照を達成できる可能性はありますか？

外部主義の観点から言えば、LMs（Language Models）の単語が参照を達成する可能性があると言えます。この理論では、言葉の参照はその使用されている言語コミュニティーにおける歴史的なつながりに根ざしています。例えば、Lukeのような一般的な話者はPeanoに関する具体的な信念や経験を持っていませんが、「Peano proved that arithmetic is incomplete」という文を読むことで「Peano」をPeanoへ指す用語として使うことができます。
したがって、LMsも同様に特定の言葉の使用履歴に基づいてその単語を参照する能力を持つ可能性があります。LMsは外部世界から孤立しているようですが、それでも言葉の参照は形式だけでなく特定の自然史も考慮されるため、LMsも他者と同様に参照能力を持つ可能性があると考えられます。