用读取 token 概率实现 Jev 风格的单函数 LLM 封装器,支持视觉模型
中文摘要
作者allanrbo推出Jev风格单函数封装,通过读取token概率实现结构化输出,并支持视觉模型图片输入。
English Summary
Allanrbo created a Jev-style single-function LLM wrapper that uses token logprobs for structured output and supports visual inputs via attachments.
Original Excerpt
作者 allanrbo 分享一个借鉴 Jev 思路的单函数封装方法:让模型只输出一个选项字母,通过 logprobs 读取各选项的 token 概率作为结构化答案,并扩展 attachments 字段支持图片输入。