文 | 镜相工作室,作者丨阮怡玲,编辑丨卢枕
近两年,随着 AI 的火热发展,「提示词 (prompt)」 这个词也被普通人熟知。
在 AI 短视频博主那里,这是 AI 时代的普通人必须要掌握的一项技能,「谁不会用提示词,谁就会被 AI 淘汰!」 在焦虑的打工人那里,提示词是用 AI 来帮忙完成工作的手段,需要整天琢磨对 AI 说什么才能得到更好的效果。这种焦虑也催生了众多 「提示词工程」 的知识付费课程,在 AI 还没真正落地之前,就先让一帮嗅觉敏锐的人大赚一笔。
提示词也曾是许多没有 AI 和相关技术背景的人,想追赶 AI 风口的一条捷径。作为一种新职业,「提示词工程师」 曾被许多人追捧,门槛低、上手快、薪资高,成为转行 AI 的首选。「2023 年的时候阿猫阿狗都能进来,挺好混的,挺水的。」 从业者杨佩骏说。那时在国外有的提示词工程师甚至能拿到 25-33 万美元年薪。
但现在,随着大模型能力的快速提升,提示词工程师越来越没有存在感,杨佩骏发现,辛辛苦苦优化了很长时间的提示词,模型一升级,就相当于白干了。模型理解自然语言、推理与思考能力越来越强,传统意义上只会写提示词的提示词工程师已经失去竞争力,AI、模型公司们也不愿意招了。
「现在大家稍微有一点职业追求,都不愿意承认自己是 PE(prompt engineer)。」 大厂的 AI 实习生很多也在社交平台上吐槽,工作就是写 prompt、洗数据,写在简历上都担心会 「脏简历」 。
面向普通人入局 AI 的这条捷径,似乎已经被堵死了。
所有人都在一个起跑线
研究生学的是历史,在大厂做着运营,万玉磊本来跟 AI、大模型搭不上半点儿边,只是一次突然的裁员,让他开始重新思考自己的职业路径。
自大模型火了后,万玉磊就一直是 AI 的深度用户,从健身计划到文字冒险游戏,他把感兴趣的东西都用 AI 尝试了一遍,还拿过科大讯飞发放的提示词工程师证书。面对竞争激烈的大厂招聘市场,他寻思着,不能再在这儿耗着。他判断,未来五年中国整个市场的钱都会被 AI 吸收,AI 一定是发展最快的行业,自己要寻找一切机会进入 AI 行业。
为了转行,他做了不少准备,甚至捡起课本把线性代数又看了一遍,还在知网上看了大量人工智能相关的综述,读了本 《深度学习革命》 的书,了解了一遍人工智能与自然语言处理的发展历史。在技术上,离职之前,他就自学完了吴恩达的提示词工程课程。
幸运的是,这是个竞争信息差的时期,看到 AI 机会并且有魄力从头开始的人并不多,加上对 AI 的兴趣和热情,这些准备已经足够了。万玉磊刚投简历,就有 AI 公司联系了他。
他面试过一些模型公司的数据标注岗、运营岗,最后在 2023 年 11 月,万玉磊成功加入了一家自研多模态大模型初创公司,成为了国内最早的一批提示词工程师。这个岗位在模型部,他觉得最能接近论文与技术,「我要感谢前公司开了我,不然我还在干运营」。
面试官是后来他领导的师兄,博五在读,说话慢条斯理,很有逻辑,看重他对 AI 的热情与好奇心,交流了很多对市面上 AI 产品的使用体验。万玉磊回忆,都是年轻人,当时他们聊得很愉快。
其实整个行业都是年轻人,OpenAI 就是一群搞学术研究的年轻人鼓捣出来的,拿着谁都不看好的论文,建立起如今变革世界的公司。
「他们在画一个名为 AGI 的大饼」,但万玉磊信这个大饼,甚至可以说他就是冲着这个大饼来的,「我自己就是一个很坚定的 AGI 信仰者」。
还没入职前,在万玉磊的想象里,提示词工程师的工作就只是优化提示词,设计好工作流,用一定的文字格式向 AI 获取更高质量的答案。入职后,他才发现最核心的是优化数据,优化模型的输出、提升模型的性能。
进去第一个月,他被安排洗数据。洗数据这件事只要有充足的耐心就够了,是给新员工的一个接触最底层预训练过程的机会——知道模型要什么样的数据,才能更加理解模型为什么会输出这样的东西,不能只洗,在洗的过程中得思考:为什么这个语义要这么分割?为什么这里有一个 end 字符?为什么我的 token 这么长?
之后就开始做各个项目,用提示词、RAG(检索增强生成技术)、Fine Tuning(微调) 等手段调整模型的输出。
AI 初创公司,总是缺算力、缺钱、缺人。模型不断迭代,业务不断调整,职责也在不断变化。第四个月,万玉磊就开始担任模型数据组的负责人,带了一个小团队,现在 7 个人满员。
虽然是文科背景,但万玉磊抓住了机会,他如今几乎算是公司的 「元老」 了。「AI 是一个很好的机会,把所有人都拉到一个全新的起跑线。」 哪怕是计算机本科的人,理解 AI 代码其实也是从零开始,而 99% 的 AI 知识,实际上是在网上对所有人开放的。
「不管做什么,先上车再说。」
模型进化,淘汰一批提示词工程师
2024 年作为实习生入行 AI 的陈柳阳,既做过大模型公司的提示词工程师,也做过业务公司的 AI 产品经理。
2023 年底,陈柳阳在中科院读研,陆陆续续选修了 python、深度学习、神经网络、大语言模型训练等课程,开始入门 AI。为了更方便地用大模型读文献,他自己写了一些 prompt,还发布到小红书参加月之暗面的比赛,总赞数排名第六。尽管比赛前后两次投月之暗面的实习都没通过,但他找到了另一家大模型公司提示词工程师的实习。
在面试中,除了被问 「如何写好 prompt」,更多的就是被问如何当好一个产品经理。印象最深刻的是,面试官抛了一个问题:你懂什么技术?陈柳阳回答,他懂 Transformer,懂 LSTM(长短期记忆框架),面试官要求他介绍一遍 LSTM。后来他才知道,面试官其实不懂这个技术,不是在考察他是不是真的懂,而是在观察他的表达能力,能不能对一个小白讲清楚。
他总结,提示词工程师需要的,第一就是逻辑能力,思考清楚这个东西到底怎么做;第二就是表达能力,要向 AI 表达清楚你的需求。
● 陈柳阳自己撰写的文献阅读提示词工具,还在不断更新。图源:受访者。
他认为,如果想要真正地接触 AI 产品的开发,理解 AI 能力的进化,AI 产品经理和提示词工程师是两个对普通人友好的职业。而从业者的普遍看法也是,如今两者其实可以看做一个岗位,名头不同,工作内容类似。
据他了解,同行里计算机、金融、心理学背景的人都有,提示词工程师其实并不特别要求技术背景。提示词工程师只是一个与 AI 对话的人,没有太高能力壁垒。提升 prompt 能力与编程没关系,更需要思维的逻辑缜密性、表达能力以及对 AI 模型能力边界的理解。
杨佩骏加入 AI 还要更早,前一份工作是与 AI 毫不相干的 to B 交付工程师,见到 ChatGPT 的火热,他直接辞职出来,2023 年 6 月份在一个大模型公司找了份 「AI 产品经理」 的工作。公司为了国际化,招了很多外语专业的人,是公司的第一批 AI 产品经理。
名为产品经理,实际上工作内容全是 prompt 优化,花 30% 时间写提示词,剩下的时间评估,是从字面意义上理解的更纯粹的提示词工程师。
在 2023 年中期,大家对模型能力边界的理解还很浅薄,杨佩骏的公司做的是套壳强化版的 chatbot,一段提示词配上一两个工具;更多的是调研竞品,研究研究竞品哪里能抄,保证每个季度能做出东西交给领导。
「的确是比较机械化的工作。」 杨佩骏想起当时,觉得提示词工程师门槛太低了。
往后,模型的能力增强,更多的业务场景出现。给业务方提供一个接口,保证模型输出给业务方的是稳定的、可靠的回答,需要写 prompt,调工具,做代码处理,工作变成一半是 prompt,一半是设计、调整工作流。
但模型发展的速度实在太快,事实上,杨佩骏慢慢地发现,所有操作中发现的共性问题,最终模型侧都能解决,辛辛苦苦优化了很长时间的提示词,模型一升级,就相当于白干了。
见证着 AI 技术的发展与提示词工程技术含金量的降低,杨佩骏认为,如果提示词工程师想有一个更长的职业发展,就要具备更多的产品思维。
2024 年中,杨佩骏主动辞职,去了一家 AI 产品业务公司,虽然是 「提示词工程师」 的职位,但划在了产品序列的部门,开始接触真正更类似 AI 产品经理的工作,在这里,提示词工程会出现在产品、开发、测试、运营的全流程中,但占工作内容不到 10%。
今天学点算法,明天学点产品,杨佩骏从一个只会写 prompt 的提示词工程师,向着真正的 AI 产品经理转型。
公司是做陪伴型产品,杨佩骏得找到产品中需要与 AI 结合的各种地方,比如在对话中,除了文字、语音输出,是不是能让模型自己找一些外部的新闻分享,自己生成表情包、图片、视频、网页,让输出方式多种多样。
模型在升级,提示词工程师的工作内容也不断升级,没背景的普通人想入行越来越难了。
优化提示词不再重要
从 GPT3.5 横空出世到现在各模型百花齐放,模型能力大大提升,prompt 优化的难度降低,技术重要性也随之降低。
「如果一个提示词工程师只会调提示词,是有问题的」,周子杰说。他是供应链管理和金融的双学位毕业,在多家互联网大厂实习,临毕业进了金山。当时 Office 出了 Copilot 功能,要在一个月内从零开始做 WPS AI,把他用行政岗的 head count 招了进去,岗位类似于 Excel 产品经理。2024 年 4 月份,他跳槽到一家大模型公司做提示词算法工程师。
据他介绍,两年前,很多难调的模型就像是一头难驯的 「野兽」,需要结构化输出,疯狂地调提示词、不断地迭代、想花样,比如引用不同的格式,使用 CoT(思维链) 技术,调 Instruction(任务描述)、调顺序,但即便是旗舰级的模型,也最多只能将评测分数从五六十分优化到 85 分,很锻炼优化提示词的技术。如果想要更好的效果,需要依赖灵感的迸发,出奇招致胜。
但 AI 模型进化到现在,已经没那么难驯服,成为了 「家养宠物」。随便写一写,评测也能有 90 分,轻轻松松就能提到 95 分,再想往上,边际效益就递减了,投产比很低,没有必要。
2024 年 9 月 13 日,自带思维链的 OpenAI o1 Preview 模型发布,陈柳阳早起刷新闻看见,「感觉整个人都幸福了不少,觉得我马上就不用上班了,AI 发展得太快了」,能让他写出很多原来不敢写、也不会写的代码了。
杨佩骏解释,prompt 实际上很大一部分就是人工手写的思维链,强制地告诉模型第一步、第二步、第三步。但 2024 年,AI 编程能力、数学能力、推理能力大进步,从内置的思维链到外显的思维链,已经能替代很多复杂的 prompt 文本。
甚至杨佩骏现在觉得,思维链也不重要了,更重要的是混合推理,由模型自己判断这个问题需不需要深度思考,避免过度思考。
周子杰从入职以来,从来没有只做提示词工程,从需求沟通、业务理解到产品设计,最后才是提示词优化,一般只占用不到一个小时的工作时间,如果需要 SFT 微调,还得协助算法工程师。
比如客户要求为手机做一个智能助手,首先需要明确响应时间、翻译、计算等业务要求,接着第一步是模型选型,判断模型的性能是否能够胜任,像是智能助手就要求模型的首响比较快,在 2 秒以下;第二步是方案选型,是用 RAG(检索增强生成技术)、MCP(模型上下文协议),还是 Function Call(模型函数调用)?选择标准一方面是根据具体的业务需求,另一方面是做实验评测模型使用该方案的效果。最后一步才是提示词优化,快速地分析 badcase 错误的原因,做调参。
而在此之前,需要先构建评测集、评测指标和评测体系。他认为,这才是提示词工程师的核心价值,是对业务的理解。
同时,大模型提示词工程师面向 B 端时也像一个技术咨询师,需要帮助很多业务公司搞不定的问题,今天是医疗行业,明天是建筑行业,后天是金融行业;今年主要业务是互联网,明年可能是政府端。每做一个项目,每想一个解决方案,都得单独去调研。「今年的知识,明年就不能用了。」
需要明确的是,提示词工程仍然很重要,这是面对垂直领域,成本最低、见效最快、泛化性很强的满足业务要求的方式。
比如让模型预报天气,可能一个气象平台说降雨量 500 毫米,另一个平台说 300 毫米,就可以通过提示词引导模型的输出,如果使用微调的手段,需要整体重新微调,成本太高,也没必要。
但如果设立一个只写 prompt 的职业,「可能不太能撑得起来」。周子杰认为网上有关提示词工程师的宣传,更多是以卖课为目标,与现实有偏差,国内对这个专门岗位的需求可能并不大,反而 AI 产品经理更有市场。
如今,AI 已经不是两年前几乎没有门槛的行业了。对创业者来说,AI 技术缩短了站稳脚跟的窗口期,要一个月就见成效;对大模型公司来说,单子被抢是常有的事,「即使我的效果不如你,但是我比你更便宜」。
自然,入行 AI 也要看经验了。行业变化很快,哪怕算法岗也不安定,周子杰曾经见过公司裁了 NLP(自然语言处理) 的人,留着 CV(计算机视觉) 的人做 NLP。
行业不安定,他自己的心也不安定,在遇到 AI 机会之前,他一直处于漂泊的状态中,没有安全感:毕业前拿到美团 offer,但 5 月份却通知事业部没了,offer 取消了;只能通过社招去外企,又遭遇上中国区裁员,拿到 2N 赔偿金;接着和朋友一起创业做 AI 社交,没找到合理的商业化路径,没钱黄了。
AI 飞速往前,没什么是安全的
今年春节,DeepSeek 横空出世,把不再需要复杂提示词的消息传到了所有人的耳中。对于用户来说,提示词可以简化了,但对幕后的 AI 从业者却没那么简单。万玉磊觉得虽然普遍难度降低了,但工作量没有减少,「提示词从始至终极其重要,而且解决的问题越来越多」。
今年的关键词是 「Agent」,前段时间爆火的 Manus 就是一个典型代表。万玉磊介绍,Agent 实际上就是工作流的串联,每个模型都有非常细致的工作流,需要更细致的提示词,要求提示词工程师更加深入业务。
提示词优化工程还出现了新的难点。如今多模态的趋势显著,要做到 AI 生图、生音频、生视频,就需要理解图、音频、视频,对提示词的要求提高。因为大参数的多模态模型里,文本模型可能只占几 B 的参数量,对文本的理解能力自然下降,更难调,时间占比可能会提升到 1/4。另一方面,AI 应用场景越来越多,端侧模型需求也在上升。
过去古典的产品经理把业务逻辑转换成研发的逻辑,如今提示词工程师要把业务的逻辑转化成模型的逻辑,作为桥梁跨过中间的 gap,责任重大。
AI 行业还处在很早期的阶段,不像移动互联网那样高度分工,光产品经理就有几十种。现在的 AI 产品经理,70% 是提示词工程师,20% 是数据标注,10% 是算法工程师。另外,万玉磊觉得,这也可能因为模型就是一个 「万物合而为一」 的东西,所有的数据、资料融合在一起,来解决所有的问题。
万玉磊很支持外行人、文科生入局 AI——做 AI 的人,文科绝对不能差。AI 是需要文科生的,如今 AI 工作流里如何评估模型的输出是一件很困难的事情,模型是一个黑箱,无法理解,所以要用很多方法去验证和评估它的能力——这就需要保持语言的敏感度,给模型的输出主观打分。
如今,AI 人才市场上职位空缺仍然很多,不仅是优秀的人才被所有公司争抢,基层也有大量空岗。「太缺人了」,陈柳阳帮前公司在朋友圈发了很多招人广告,动不动就拉着同学问:「你懂 AI,要不要过来实习?」
他很推荐年轻人进入 AI 行业,「这个行业可能是时代给我们为数不多的一个机会了,进去后说不定有可能会财务自由。」 但他也提示,这份工作需要真的对 AI 感兴趣,驱使自己持续关注 AI 的动态,学习 AI 知识和技术。
毕竟,在一个滚滚向前快速发展的潮流面前,没有什么是安全的、不会被取代的。
(应受访者要求,周子杰、杨佩骏为化名。)