2024年11月11日

陪AI聊天、教会它方言、让它拦截骗子……

一个大模型诞生300余个工程师岗位

中国电信中部智算中心机房。

湖北电信提示词工程师程宇正在陪大模型“聊天”。

湖北日报全媒记者 刘天纵 通讯员 许国胜 王云鹤

它是文采飞扬的诗人,是天马行空的画家,是医院病房的助理,是网站热线的客服,是电商机构的主播,是工厂车间的“大脑”……它就是大模型,能让人工智能自主思考决策。

当前,各类大模型应用开始深度融入经济社会生活。2024年1月10日,中国电信宣布将布局多年、完全自研的“星辰”大模型全面开源。“星辰”大模型持续进化,湖北电信逐步诞生了大数据挖掘师、提示词工程师、云网系统架构师、数据安全工程师、智能云服务交付工程师等300余个“工程师”新岗位。

提示词工程师程宇:

教会大模型秒懂各地方言

在国内招聘平台上,新兴职业“提示词工程师”月收入上万元。

10月25日,在湖北电信产业数字化研发中心,湖北日报全媒记者见到了26岁的“提示词工程师”程宇,他主要任务是负责和AI聊天,当大模型的“导师”。

“看看我跟AI的聊天记录,谈恋爱都不会聊这么多话。”程宇打开办公电脑的AI对话框,不断上滑鼠标滚轮,翻了几分钟也没把聊天记录翻到头。

程宇说,计算能力增强和深度学习理论发展,催生了“提示词工程师”这个新职业。如果将大模型比喻为新型计算机,提示词工程师就是为它编程的程序员,编程的主要方式不是写代码,而是陪AI聊天,进而教大模型如何理解用户、与用户的意图对齐。

陪AI聊天、与人聊天有何区别?

“聊天内容与日常文字聊天差不多,但‘是与否’‘能与不能’等命令式词语多一些,以告诉AI哪些问题可以回答,哪些内容不能回答。”程宇介绍,大模型就像一个刚毕业的学生,学习了很多基础知识和通用常识,但入职后要胜任岗位,得先找个师傅带。

如,训练AI讲解员,提示词工程师需要告诉大模型:你是展厅讲解员,你负责接待引导、介绍项目,观众提问要礼貌回应、逐一解答。

提示词工程师除了要陪AI聊天,还要给大模型“投喂”语料,帮大模型学知识、长见识。

今年5月,“星辰”大模型的“技能包”上新——可识别国内30种方言自由混说,成为国内目前支持最多方言的语音识别大模型。湖北电信针对湖北方言,开发了AI语音自动识别系统,识别武汉话、宜昌话、襄阳话、恩施话等不在话下,甚至部分咸宁地区的方言也听得懂。

程宇介绍,智能客服每天会接到几百万通电话,其中很大比例是方言。中国电信构建了超30万小时的高质量方言数据库,海量方言数据的“投喂”,让大模型逐步成为方言专家。

借助“星辰”大模型,中国电信10000号智能客服能“秒懂”各地方言,实现31个省份全覆盖;数字人连接大模型后,不但能用方言与人流畅对话,还能中英文随意切换。

此外,“星辰”大模型还赋能多地的12345市民服务平台,提高客服人员便民服务效率,助力政务工作智能化升级。

程宇认为,方言大模型前景广阔,可作为智能网联汽车的智驾助手,与全国司机用方言交流;可嵌入智能看护、亲情互动、智能手环等设备,让适老化服务更有家乡温度。

大模型算法工程师周慧平:

陪“谛听”刷题

“星辰”大模型作为通用大模型,相当于大模型体系中的“树干”,一些更细分的行业大模型则是“树枝”,其定位目标更明确和聚焦。

客户服务智能体“谛听”,便是湖北电信原创的行业大模型,寓意“通过聆听来辨认众生万物的真实需求”。今年5月底上线后,“谛听”可提升人工客服服务效率30%以上。如,过去平均45秒的用户宽带报障来电,现在平均处理时限缩短到30秒以内。

今年50岁的周慧平是中国电信集团AI高级专家,也是湖北电信的大模型算法工程师。2023年12月,针对人工客服培训压力大、业务复杂度高等问题,湖北电信通过“揭榜挂帅”提出了通过AI提升客服质效的要求,周慧平主动承担起技术攻关任务。

每天,湖北电信10000号服务量达到30万分钟,包括10000号呼入和呼出、政企热线、销售队列等人工和自助服务,产生的语音和文图数据总量超过3个TB。

数据量虽大,但在周慧平看来,大量用户咨询问题属于“重复来话”,只要通过“知识图谱”和算法让AI理解“解题逻辑”,再通过大数据“题库”让AI日复一日地“刷题”,AI便能自主生成“标准答案”,成为“解题高手”。

周慧平将“谛听”大模型的运行机制分为“九步法”,即识别用户来电、语音转文本、用户意图识别、匹配服务方案、调取知识库、提取用户个性信息、执行服务方案、推荐服务话术、坐席(后续可以改为AI)与客户沟通。

周慧平说,过去,AI只能做辅助人工客服的“拐杖”,做一些语音、少数意图同步识别等简单工作。现在,“谛听”已成为人工客服的“老师”,能自主识别用户多轮对话中的复杂意图,自动生成解决方案,人工客服甚至只需跟着AI的“台词”念即可满足用户一般需求。新入职客服人员以前需要培训3个月,现在仅需培训3天。

如今,生成式AI的爆火,燃起了周慧平求学时的青春激情。他说,上世纪九十年代,他的大学计算机教材里就有关于AI的章节,那时的AI技术,只能在固定规则的条条框框里运行。周慧平1995年入职湖北电信后从事IT工作,2022年,随着大模型的火爆出圈,他主动更换赛道,成功转型成为一名大模型算法工程师。

数据安全工程师李少君:

反诈大模型守好群众“钱袋子”

大模型在安全风险防范上也有用武之地。

29岁的李少君从武汉邮电科学研究院硕士毕业后,于2022年入职湖北电信,成为反诈工作专班一名数据安全工程师。

李少君说,网络诈骗行为呈现出难定位、犯罪隐蔽性强、诈骗行为周期短等特点,要在短时间甄别藏匿很深的涉诈行为,就需要反诈大模型来帮忙。

为此,湖北电信配合公安等部门,对每日的通信业务办理情况、生产运营存量和增量数据进行全量AI筛查,通过对通信业务逻辑的精细分析,将可能涉诈的业务、行为特征提取出来,“教会”大模型。

“未知链接不点击,陌生来电不轻信,个人信息不透露,转账汇款多核实。”李少君介绍,为夯实反诈防火墙,湖北电信基于反诈大模型增加了主动防御功能,对老年人、大龄妇女等易受骗人群进行了用户标记,按照低、中、高不同风险程度,在用户接到疑似诈骗电话时,采取AI主动拦截、电话短信提醒等措施。

在打击GOIP(虚拟拨号设备)方面,湖北电信打好警企联动“组合拳”,深入挖掘各类异常远程控制软件使用场景,不断迭代输出多类GOIP监控模型,守好百姓“钱袋子”。

AI应用飞速发展,网络安全迭代进化。目前,数据安全工程师队伍持续扩容,湖北电信专业从事反诈工作技术人员已超过60人。

数说AI与大模型

中国10亿参数规模以上的大模型数量已超100个

行业大模型深度赋能电子信息、医疗、交通等领域形成上百种应用模式,赋能千行百业

中国大模型产业市场规模2020年为15亿元

预计2024年将达到216亿元年均增长率达94.7%

今年1至7月全国电信行业的云计算、大数据、物联网等新兴业务收入规模已经达到2584亿元收入占比达到25%

数据来源:央视新闻客户端、中商产业研究院、Quest Mobile《中国移动互联网2024年秋季报告》

制图万璇

(本版图片均为湖北日报全媒记者 刘天纵 摄)

--> 2024-11-11 陪AI聊天、教会它方言、让它拦截骗子…… 5 5 湖北日报 content_294618.html 1 一个大模型诞生300余个工程师岗位 /enpproperty-->