站長之家（ChinaZ.com）4月28日 消息:Facebook 母公司 Meta 的人工智能研究人員推出了一種新的語言模型Toolformer，旨在處理自然語言處理用例中多個 API的調(diào)用。

(資料圖片僅供參考)

Toolformer 基于 GPT-J，后者是一種67億參數(shù)的開源語言模型。Meta 的研究人員為該模型配備了一系列工具，它可以自主使用這些工具來完成任務，例如預測文本或回答數(shù)學問題。

Toolformer 可以訪問的工具包括一個計算器、一個問答系統(tǒng)、兩個不同的搜索引擎、一個機器翻譯系統(tǒng)和一個日歷。

其中，使用的機器翻譯系統(tǒng)是其NLLB模型的6億參數(shù)版本，適用于200種語言。Toolformer 使用日歷 API，在查詢時無需任何輸入即可返回當前日期。回答問題系統(tǒng)使用的是 Meta 的Atlas模型。

值得注意的是，其搜索引擎之一是維基百科搜索，它會在出現(xiàn)提示時返回來自維基百科的短文本片段。

上面的示例展示了 Toolformer 的功能。該模型自主決定調(diào)用不同的 API 來獲取對完成一段文本有用的信息。Meta論文中的這個例子看到該模型利用了一個問答系統(tǒng)、一個計算器、一個機器翻譯系統(tǒng)和一個維基百科搜索引擎。

盡管底層模型基于 GPT-2模型，但 Meta 發(fā)現(xiàn) Toolformer 在少數(shù)零樣本 NLP 任務上可以勝過 GPT-3模型。雖然 GPT-3在問答方面表現(xiàn)更好，但 Toolformer 在大多數(shù)其他測試中擊敗了 OpenAI 模型，包括數(shù)學推理和機器翻譯。

Toolformer 類似于 OpenAI 的ChatGPT，用戶輸入自然語言提示，系統(tǒng)生成響應。Toolformer 的不同之處在于，它的各種工具可用于通過搜索引擎功能等工具根據(jù)最近發(fā)生的事件生成響應。ChatGPT 和其他人是使用的是截止某個時間點數(shù)據(jù)集構(gòu)建的，這意味著它們無法響應用戶對最近事件的查詢。

Meta 的研究人員在他們的論文中承認，Toolformer 比其同時代的 ChatGPT 更不完整，其目前在使用上仍存在局限性”。

關于Toolformer論文介紹網(wǎng)址:https://arxiv.org/abs/2302.04761

（舉報）

關鍵詞：