训练 AI 用代码作画:突破提示词限制
Training AI to Paint with Code

当用 AI 生成图像时,我们往往只能通过提示词参与,无法直接编辑结果。这让我决定训练一个语言模型,让它通过编写代码来作画。在这个项目中,代码本身就是可编辑的产物,让我能更精细地调整模型生成的内容,而无需反复提示。核心挑战在于如何为创意任务设计强化学习的奖励函数:太严格会导致模型僵化,太宽松则会让模型迷失。通过引入成对比较机制和手工评分的参考池,我成功让模型学会了用更简洁的代码生成高质量的水彩画。这不仅是技术的突破,更是对 AI 创作参与方式的重新思考。
强化学习需要一个可验证的奖励,数学题有对错,游戏有输赢,但审美偏好既非此也非彼。