Monte Carlo, Puppetry and Laughter: The Unexpected Joys of Prompt Engineering

Monte Carlo, Puppetry and Laughter: The Unexpected Joys of Prompt Engineering

摘要

Instacart正在探索使用LLMs和GenAI构建产品的技巧和技术。他们发现，通过一些提示技巧如"Chain of Thought"和"ReAct"，以及将LLMs视为明亮但容易困惑的实习生，可以改善模型的性能。这些技巧包括给模型明确的引导、让模型在回答问题之前做出计划、使用Monte Carlo技术进行头脑风暴、以及通过自我纠正来提高模型的表现。此外，模型还可以进行自我纠正和分类，进一步提升其表现。Instacart还构建了一个API端点，用于内部使用，以更好地从LLMs中提取正确的输出。