Back to Home
RadarAI··Papers & Tech

用读取 token 概率实现 Jev 风格的单函数 LLM 封装器,支持视觉模型

中文摘要

作者allanrbo推出Jev风格单函数封装,通过读取token概率实现结构化输出,并支持视觉模型图片输入。

English Summary

Allanrbo created a Jev-style single-function LLM wrapper that uses token logprobs for structured output and supports visual inputs via attachments.

Original Excerpt

作者 allanrbo 分享一个借鉴 Jev 思路的单函数封装方法:让模型只输出一个选项字母,通过 logprobs 读取各选项的 token 概率作为结构化答案,并扩展 attachments 字段支持图片输入。