AI文本创作在百度App发文的实践

点击蓝字，关注我们

随着科技的飞速发展，人工智能领域的大模型技术也日益引人注目。在大模型的广泛应用中，我们看到了其在各种场景下的巨大潜力和价值。大模型技术的发展不仅推动了各个行业的创新和变革，也正在改变着我们对人工智能的理解和预期。

大语言模型（LLM）指包含数百亿（或更多）参数的语言模型。这些模型通常通过在大规模数据集上进行训练，以提高其性能和泛化能力。大型模型的出现受益于计算能力的提升和数据的可获得性增加，使得研究人员能够构建更复杂、更强大的模型来解决各种现实世界的问题。

常见的大模型比如OpenAi的ChatGPT、百度的文心一言，可以更好的理解和生成自然语言。通过对大量文本数据进行训练，它们能够捕捉到语言中的语法、语义和上下文信息。这使得它们在回答问题、提供解释、生成文本和进行对话时更加准确和流畅。并且一经推出，便引起了社会的广泛关注。大语言模型的技术发展对整个AI社区产生了重要影响，也彻底改变我们开发和使用AI算法的方式。

在百度App动态发文接入文心一言AI能力后，可以为用户提供更加智能化、个性化的服务，帮助作者降低创作难度和创作成本、提升创作效率，更好地创作自己的内容。

下图展示了在百度App - 发布动态中，AI文本创作的示例。

内容输入

AI写诗创作中

AI写诗创作完成

百度App动态发布器的AI创作是基于百度文心一言的辅助创作功能，可以根据用户的输入续写、改写，以及一些提示词去智能生成文案。

整体业务分为三层：

业务层调用百家号创作大脑服务，获取账号权限、功能权限、prompt模版配置等信息，根据权限展示功能类型，如：日常动态、AI写诗、旅游出行等；用户输入文案，访问创作大脑文案生成接口，创作大脑校验账号、权限、模版信息，权限校验通过之后访问风控词表，对输入信息进行风控管理；最终创作大脑携带prompt和用户输入问题访问一言服务，获取经过AI润色的文案。

Prompt（提示词），是给一个大型机器学习模型输入的指令或问题，以引导它生成相应的回答或输出。它通常是一个文本字符串，用于描述所需的信息或任务，并向模型提供上下文和指导，以产生期望的回应。比如在文心一言大模型基础下进行对话、文本生成或其他任务，Prompt起到了引导模型生成输出的作用。良好设计的Prompt可以帮助模型更准确地理解用户的意图，并生成相关和有用的回答，真正有产业/社会价值。一个好的、优质的prompt需要充分发挥我们的理解和想象力，并调动大模型的能力，从而提升我们的工作效率。

3.1.1 Prompt基础定义

Prompt（提示词），简而言之就是驱动大模型进行表达的文本描述。

Prompt 公式 = 任务 + 生成主体 + 细节(可选) + 形式(可选)。

通常优质的Prompt满足以下三点:

优质的Prompt + 大模型 = 优质内容。

3.1.2 Prompt配置

百度App动态发布器提供多款AI创作功能，每个能力会内置一个描述，方便用户进行提问，并且得到满足期望的文案，我们提供如下几个分类：

在Prompt中增加防御性指令，防止有人恶意Prompt注入，操纵提示词，诱导模型返回非预期的结果，因此我们在整个生产流程会经历如下防范措施：

为了提高聊天的流畅性和响应速度，文心一言采用了SSE作为服务端推送技术。它允许服务端向客户端发送事件，相对于WebSockets或长、短轮询技术，SSE提供了更简单的方式来实现推送。

响应头需添加以下内容：

Content-Type: text/event-stream; charset=utf-8Cache-Control: no-cache, no-transformConnection: keep-aliveX-Accel-Buffering: no

客户端通过HTTP GET请求建立与服务器的连接，并指定接收text/event-stream类型的数据，服务器在收到请求后，不立即返回响应，而是保持连接打开，并根据用户的输入生成回复，服务器在生成回复后，将回复作为一个事件发送给客户端，并保持连接打开，等待下一个输入，客户端在收到事件后，解析事件中的数据，并显示在聊天界面上，客户端和服务器之间可以通过同一个连接持续交换数据，直到客户端关闭连接或者服务器出现异常。

相比较于其他方案，SSE使用更简单，不需要添加任何新组件，只需使用现有的后端语言和框架即可。SSE完全复用现有的HTTP协议，因此可以直接运行于现有的代理服务器和认证技术。SSE在浏览器端提供了原生的EventSource对象，可以方便地监听和处理服务器发送的事件。SSE支持断线重连和消息追踪的功能，可以保证数据的完整性和一致性。

客户端会根据server返回的数据，进行流式展示。分成下面几个阶段：初始等待、展示中、展示结束，几个状态转换中，对样式的展示也存在不同的变换。

3.4.1 自定义TextView

以Android为例，首先初始化等待和展示中两个状态，看起来很像Android的EditText组件，但是EditText组件需要处理光标展示、焦点获取、键盘弹出、屏蔽编辑等组合事件，功能上显得不纯粹，还可能存在适配问题。考虑到这里决定通过继承TextView自定义View来实现。

我们只需要考虑3个点，一是逐字显示，二是文字渐变，三是光标。

逐字显示

• 我们通过自定义Handler定时器对文字进行不断截取后展示即可。

文字渐变

• 参考常用的ForegroundColorSpan源码会发现，ForegroundColorSpan是通过继承CharacterStyle并实现UpdateAppearance，最终通过重写对应的updateDrawState方法来实现的文字颜色的变更。同样我们也可以通过设置画笔为渐变色并给出渐变色的起止位置，就可以实现文字颜色的渐变效果。而画笔Paint的渐变则可以通过常用api中的LinearGradient来实现就可以了。

override fun updateDrawState(tp: TextPaint?) {    tp ?: return    val leadingWidth = tp.measureText(containingText, 0, gradientStart)    val gradientWidth = tp.measureText(containingText, gradientStart,            gradientEnd)    val lineGradient = LinearGradient(            leadingWidth,            0f,            gradientWidth,            0f,            intArrayOf(startColorInt, endColorInt),            floatArrayOf(0f, 1f),            Shader.TileMode.CLAMP    )    tp.shader = lineGradient}

光标

• 光标添加：考虑如何每次把光标显示在文案的最后呢？这里我们参考ReplacementSpan，也是通过自定义的Span的方式。ReplacementSpan中有2个方法分别是getSize() 和 draw()方法。getSize() 该方法的返回值会被作为要替换文字的width，draw()在该方法内绘制我们需要的光标到画布中，我们只需要在draw()中，绘制合适大小的圆角矩形的作为光标。

override fun getSize(paint: Paint, text: CharSequence?,                  start: Int, end: Int, fm: Paint.FontMetricsInt?): Int {    return paint.measureText(" ").toInt()}
override fun draw(canvas: Canvas, text: CharSequence?, start: Int, end: Int, x: Float,                  top: Int, y: Int, bottom: Int, paint: Paint) {    canvas.drawRoundRect(x,            top.toFloat(), x + width, bottom.toFloat(), rx, ry, cursorPaint)}

• 光标闪烁：这里可以使用ValueAnimator动画更新Alpha值，并将Alpha值设置给画笔的透明度。

override fun draw(canvas: Canvas, text: CharSequence?, start: Int, end: Int, x: Float,                  top: Int, y: Int, bottom: Int, paint: Paint) {    cursorPaint.alpha = (alpha * 255).toInt().coerceAtMost(255)    canvas.drawRoundRect(x,            top.toFloat(), x + width, bottom.toFloat(), rx, ry, cursorPaint)}

本文简述了基于文心一言等大模型，落地AI文本创作的基本流程，也是内容创作与AI结合的初步尝试，随着生成式AI创新应用的持续推进，将陆续发布基于图片和视频的更多特色玩法，敬请期待！