讨论AI非虚构写作改进与RL目标冲突
转推 @karinanguyen: 我认为有一条明确的改进非虚构AI写作的路径（我们在某个GPT-4o版本中做到了）。差距主要来自RL阶段冲突的优化目标：使模型在消费对话中令人愉悦的特质，往往与学术/技术/研究写作所重视的品质相悖，后者更注重精确性、信息密度、结构和克制。
创意写作我认为完全是另一个问题。它涉及构建连贯的世界、发展角色、保持叙事一致性，并在数百页篇幅中创造情感弧线。伟大的小说是经过多年对结构、主题和角色的迭代写成的。简而言之，在当前范式下，我们没有足够的历史数据来捕捉整个过程用于训练（例如，很难为AI模拟皮克斯的智囊团过程），但我也认为没有实验室为此投入资源，因为这几乎无法衡量且经济价值不大。
我曾就此做过一次演讲：https://t.co/8U58i6zu5r
创意写作我认为完全是另一个问题。它涉及构建连贯的世界、发展角色、保持叙事一致性，并在数百页篇幅中创造情感弧线。伟大的小说是经过多年对结构、主题和角色的迭代写成的。简而言之，在当前范式下，我们没有足够的历史数据来捕捉整个过程用于训练（例如，很难为AI模拟皮克斯的智囊团过程），但我也认为没有实验室为此投入资源，因为这几乎无法衡量且经济价值不大。
我曾就此做过一次演讲：https://t.co/8U58i6zu5r