一、引言:业务流程图之重要性
在AIGC产品的设计与规划过程中,业务流程图是把控全局、共识形成与问题发现的关键工具。它帮助我们全面理解产品架构,明确各环节的内在联系,并为产品的长远发展指明方向。
本文将基于AIGC助理平台的业务流程,对AIGC助理平台的产品设计及产品规划做复盘。
二、内部联系与产品本质
AIGC助理平台设计始于对角色和流程的精确把握:
1、角色,确定关键角色包括:AIGC基础平台、LLM大语言模型、业务系统、SaaS平台,以及多角色用户(用户、平台运营、租户运营)。
2、分析角色间的相互作用和业务流转逻辑,构筑清晰的业务脉络及角色关系。
3、以对话为主体,以语义理解、内容管理、检索、指令响应和内容生成为核心动作,推动AI与人的高效互动。
4、AIGC助理平台的优势在于“AI能力生态建设”,即将孤立的AI技术能力综合运用,满足多样化业务需求的大网络。
2.1 内部联系
1、AIGC助理平台与业务系统: AIGC助理平台是为业务系统提供AI能力的基础平台,通过连接LLM大语言模型和业务系统,实现对业务系统的赋能和约束。
2、AIGC助理平台与LLM大语言模型: AIGC助理平台的AI能力来源于LLM大语言模型,通过对LLM大语言模型进行约束、增强、具象化、场景化、垂直化、模块化和规范化,实现对业务系统的赋能。
3、用户与AIGC助理平台: 用户通过业务系统间接使用AIGC助理平台的AI能力,解决问题并满足自身需求。
4、SaaS运营平台与AIGC助理平台: SaaS运营平台用于管理和运营AIGC基础平台,为AIGC助理平台提供赋能和约束的管理功能。
5、平台运营与租户运营: 平台运营使用SaaS运营平台,管理AIGC助理平台的租户,服务并约束租户更好地使用AIGC助理平台。
2.2 系统本质
1、AIGC助理平台的本质是连接LLM大语言模型和业务系统,为业务系统提供AI能力的基础平台。
2、业务系统的本质是处理具体的业务场景,通过结合用户需求、业务系统能力和AIGC平台提供的AI能力,解决用户的痛点。
三、产品功能设计深化
以流程图为基础,我们细致规划了产品功能:
1、角色分析
在流程图中,可以清晰明确有哪些角色,通过角色做用户分析、系统分析,基于角色及业务场景做需求分析。
2、明确产品边界
各个系统各司其职,SaaS平台负责运营管理,AIGC基础平台提供AI技术服务,LLM的基础能力支持,业务系统实现业务场景的AI应用。
3、紧扣流程节点设计功能
流程中的每一个节点,都需要一个或多个功能来实现。如,从SaaS平台的运营管理(渠道管理、计费配置、成本管理、充值管理、消费明细等),到AIGC助理平台的创建知识库(知识库的管理、创建知识库、知识库类型),皆是基于流程节点做的功能设计。
4、基于逻辑判断做产品设计
业务流程图中的逻辑判断,包含有至少两个出口,其表示涉及多种情况,需要满足多场景的产品设计,并区分普通流、异常流。如,用到知识库的场景(智能客服、BI&ETL)、没用到知识库的场景(智会速记)。
5、深挖产品本质
AIGC助理平台的产品实现,其本质是:对自然语言进行理解,并通过上下文内容向LLM大模型发出指令,经过大语言模型的推理能力生成内容或者指令。可基于产品本质做分析和拆分,进而指导产品设计。
①理解: 语义理解,需要提示词和模型参数,约束AI,因此提供提示词和调参的功能;
②内容: 提供知识库和数据集的功能;
③检索: 需要向量数据库的检索,提供测试命中率的功能;
④指令: 系统指令和提示词指令,让AI按指令执行;LLM亦可向业务系统发出指令(如,BAPD生成任务);
⑤生成: 通过提示词和上下文,结合大语言模型的推理能力生成内容或者指令。
6、展望功能延伸
每个流程节点相应的功能,可能存在更多的延展性需求或者功能,有些是为满足父需求(或功能)而需要扩展的子需求,有些是基于系统安全需要做的扩展,有些是基于不同用户群体需要做的扩展,还有些是基于用户体验做的扩展。
因此,可针对安全、用户多样性和体验等维度拓展产品的应用场景与功能。如:
1)AIGC助理平台项目中,做向量检索只需要提供数据集即可,然而,从用户使用场景和系统安全性的角度来考虑,将该需求的实现拆分成了2个步骤,流程中以创建知识库和向量化表示。
2)经过用户分析和用户体验分析,生成式AI式作为一种新技术,用户对其的熟悉程度有限,大部分用户对提示词也较为陌生,从提高用户体验的角度思考,增加了【自动生成提示词】的功能,用户按照步骤,描述需求,即可自动生成提示词。
四、产品问题与发展规划
基于业务流程图做问题分析,可从以下两个方面来考虑:①基于系统关系挖掘存在的问题;①基于流程挖掘存在的问题。
4.1 基于系统关系分析产品问题及制定发展规划
AIGC助理平台连接了多个系统,每个系统之间存在着依赖关系,在发展过程中,可能存在牵一发而动全身的情况。因此,必须了解可能存在的问题,并做相应的规划。
4.1.1 产品问题
1、AIGC助理平台与业务系统
- 业务系统对AIGC助理平台的AI能力需求不明确,导致AIGC助理平台的功能设计无法满足业务系统的实际需求。
- 业务系统对AIGC助理平台存在较强的依赖关系,一旦AIGC助理平台出现问题,将严重影响业务系统的使用。
- AIGC助理平台为业务系统做过多的定制化开发,导致AIGC助理平台的功能无法模块化复用于更多的业务系统,造成功能的冗余。
- 缺乏统一的数据接口标准和数据交互流程,影响AIGC助理平台与业务系统的数据传输效率和数据安全性。
2、AIGC助理平台与LLM大语言模型
- 不同厂商的LLM大语言模型没有统一的标准,接入新模型需要针对性做开发。
- 由于模型的不统一性,切换模型的成本也更大,甚至需要重新走一遍完整的流程(如,切换模型后,原来做的向量化内容不适用于另一个模型)。
- 数据安全问题,敏感数据不适宜提供给LLM大模型处理,因此,在功能实现方面也受到了较大限制。
3、用户与AIGC助理平台
- 用户对AIGC助理平台的使用习惯和心智模型不同,导致使用体验的差异化和个性化需求无法满足(如,用户对AI的熟悉程度不同,得到的效果不同;用户提问方式不同,得到的效果也不同)。
- 用户对AIGC助理平台的AI能力理解有限,缺乏对AI技术的信任和接受度。
4、SaaS运营平台与AIGC助理平台
- SaaS运营平台对AIGC助理平台的管理和约束不够精细和全面,导致租户的服务和客户的运营效果不佳。
4.1.2 发展规划
1、AIGC助理平台与业务系统
- AIGC助理平台做模块化的通用性产品设计,业务平台适应AIGC助理平台做产品设计。
- 业务系统的产品设计需要自成闭环。
- AIGC助理平台提供基础能力,重AI基础能力,轻业务场景处理。
- 设计统一的数据接口标准和数据交互流程,为增加业务系统的灵活性,提供更多可拓展的接口。
2、AIGC助理平台与LLM大语言模型
- 补充部分主流的LLM大语言模型,做好适应,方便针对模型的特点采用适合的模型。
- 找出LLM大语言模型的共性,提高切换模型的体验。
- 完善聊天前置处理和后置处理,减少数据泄露的风险。
3、用户与AIGC助理平台
- 通过聊天前的前置处理,提高回复的精准率,如:完善标注体系、提高检索能力和召回能力、完善提示词工程、完善上下文交互。
- 提升聊天时的用户体验及回复的准确性,如:增加聊天模板、提示词提问优化、增加清除上下文的功能。
- 增加应用案例,提高用户对AIGC助理平台的理解和信任,增强用户对AI技术的接受度。
4、SaaS运营平台与AIGC助理平台
- 加强对AIGC助理平台的管理和约束,确保租户的使用行为和数据安全符合规范和要求。
- 提供更全面和精细的运营支持,包括监控和优化AIGC助理平台的性能,提供定期的报告和分析,帮助租户更好地利用AIGC助理平台。
- 结合运营使用场景,增加运营工具,提高运营能力。
这些发展规划旨在提升AIGC助理平台与业务系统、LLM大语言模型、用户和SaaS运营平台之间的协作和效率,以实现更好的业务价值和用户体验。
4.2 基于业务流程分析产品问题及发展规划
在流程中中,可以了解到整个流程中包含有几个模块:开通系统、AI助理管理(AI方法,提示词工程和AI配置)、知识库向量化(AI内容,向量数据库/业务系统提供的数据)、AI接入形式和AI交互界面(载体)、智能协作、模型处理。
基于这些模块,可发现可能存在的问题,并基于问题和侧重点制定发展规划。
4.2.1 产品问题
①AI具有不确定性的特点,并不能保证100%准确,其中,语义理解作为AI交互的第一步,可能存在语义理解不准确的情况。
②AI实现需要通过提示词来约束注意力,通过上下文来补充记忆,因此,提示词和上下文都是极其重要的一部分,可能存在提示词描述导致效果不佳、记忆力频繁变动导致注意力不集中的问题。
③AI内容不准确,导致AI生成的准确率偏低;
④向量数据的检索和召回效果不佳,导致准确率偏低;
⑤AI应用的业务场景较多,AI接入形式可能存在无法满足业务场景的问题;
⑥智能协作,以多Agent沟通并总结出最终回复的方式来实现,可能存在AI之间的“交流”出现偏差,导致最终结果不准确;
⑦模型处理,模型处理是有LLM大模型实现,我们无法对其进行掌控,其实现方式的改变、模型准确率等都对整个AIGC平台有着较深的影响。
4.2.2 发展规划
基于上述可能出现的问题,做产品规划。
①语义理解优化,通过提示词工程、上下文(正例、反例)、标注与回流的方式提升AI的语义理解能力,后续可基于这几种方式的优化,并持续挖掘更多的指标进行优化,以提高AI的语义理解能力;
②注意力约束优化,与①类似,通过提示词工程、上下文(正例、反例)等方式,来对AI的注意力进行约束;
③提升AI语料质量,知识库和数据集的规范管理与运营,提高AI语料的质量,确保AI所需内容的准确性;
④提高检索和召回的能力,通过优化检索的方式、优化召回的算法,提高检索和召回的能力;
⑤根据具体业务场景,完善接入形式,确保接入形式的通用性和模块化。
⑥智能协作,智能协助涉及的助理多样化,而AI的推理,会基于上下文的记忆辅助理解,因此,而跳跃性的聊天内容,将会严重影响到负责调度的Agent的理解,可优化上下文处理、优化调度描述、增加调度规则等方式来提高其准确率。
⑦多模型处理,如果仅有单一的模型,一旦模型有调整或者出现问题,则可能对AIGC助理平台造成巨大的影响,因此,可增加模型类型,支持切换模型;甚至增加多模型混合处理的方式,汲取不同模型间的能力,完成不同的流程处理。
评论 (0)