速報
Zuckerbergのオープンレター:モデルは、すべてを学ぶ必要があります
Zuckerbergは、今日の長い紙を出版し、一般にモデルの蒸留を防衛しました。 そこで、他のモデルのモデル学習は、オープンソースのエコロジーの一部です。 米国がオープンソースのAIを継続し続けるためには、蒸留と訓練データの制限を緩和する必要があります。 彼はまた、直接蒸留が有害であるという主張を認めます: 観察されたものは、学ぶことができます。 Zuckerbergは、米国が最初に結んだら、他の国のオープンソースモデルがより速く続くことを指摘しました。 OpenAIとAnthropicの最近の動きに反して、Zuckerbergはモデル間の学習が一緒に制限されることができないという観点から、競合他社を保護しています。 メタは、マウススパークから蒸留されたマウススグリマーを今日リリースしました。
