大語言模型的局限在哪里?
AI教母李飛飛這樣說:
大自然中是沒有語言存在的,你不會從天空中直接看到文字。
語言是一種純粹的生成的信號。
語言信號的輸出主要基于人類給的輸入信號,可以說,語言是不獨立于人之外的。
然而,物理世界是客觀存在的。所以提取、理解、生成3D世界的數據、實現空間智能和處理語言問題時截然不同。
沒想到,李飛飛一年前的訪談被扒出來,又引發大量圍觀。
她這段話意味著,大語言模型或許還不是真正的智能。
真正的智能將是信號感知、物理以及和現實世界相結合的產物。
下面來看看大家還在熱議些啥吧。
空間智能可以借鑒語言模型,但仍存在本質差異
這場討論的焦點在于,現在基于語言信號訓練的模型到底懂不懂物理世界的常識
首先,回顧一下李飛飛的說法。
她認為語言模型及當今的多模態語言模型的底層表示是一維的。它們在根本上就是操作于離散token的一維序列上,所以模型對于書面文本這種一維序列的表示是非常自然的。