Back to Home
RadarAI··Papers & Tech

OpenAI 测试模型回答是否符合战争法

中文摘要

OpenAI为应对美军使用需求,正通过专家测试与微调,确保模型回答符合战争法及《日内瓦公约》。

English Summary

OpenAI is testing model compliance with the laws of war for US military use, using expert-led fine-tuning to align responses with the Geneva Convention.

Original Excerpt

OpenAI 因模型将用于美国军方,开始测试模型回答是否符合战争法。OpenAI 设立了首个的人权与负责任部署岗位,由曾在军方议题工作 30 年、6 月加入的 Sarah Yager 负责;国际专家向模型输入高风险作战提示词,工程师再根据回答与《日内瓦公约》的差距调整模型,Yager 称这种反向微调步骤此前从未被采取过。