看到一个可以让Gemma-3 进行 Tool Call (function call) 的方法。

基本就是prompt+parser,然后祈祷Gemma-3能按照prompt工作了。

原理就是告诉LLM我们有工具xxx,如果你需要用你可以使用<tool_call>标签。然后祈祷llm能用就行了(x。相比于原生支持tool_call系统token的模型,稳定性会差一些。

不过这个方法可移植性非常高,基本任何模型都可以。

文章地址:www.reddit.com/r/LocalLLaMA/comments/1jauy8d/giving_native_tool_calling_to_gemma_3_or_really/

1
message-square
0