“请把以下文本分类为正面、负面、中性。文本‘这个产品太好用了’”这是一行 Prompt。GPT-4 用了 2 秒准确率 92%。我花了整整一周标注 5000 条数据、清洗特征、调 TextCNN 的超参、做交叉验证、写部署脚本——最后准确率 89%。更讽刺的是那行 Prompt 是我带的实习生写的。他根本不懂 TF-IDF 是什么不知道 LSTM 和 BERT 的区别但他用一行话搞定了。我看着自己电脑里 30 多个训练脚本、50 多份实验报告、几百个模型权重文件突然怀疑我这些年研究的特征工程、模型结构优化、调参技巧是不是白学了BERT 出来的时候我第一时间复现了论文。Transformer 的注意力机制我逐行 debug 过。但 ChatGPT 出来后我发现世界变了——没人关心你的模型结构多精妙只关心 Prompt 写得好不好。顿悟LLM 不是消灭 NLP而是重新定义 NLP跟几个前辈聊了后我慢慢想明白了。传统 NLP 是教机器理解语言核心是怎么设计特征、怎么搭模型结构、怎么优化损失函数。这像是教鹦鹉学说话——一个词一个词教。LLM 是让机器自己学会语言核心是怎么引导模型、怎么设计 Prompt、怎么编排工作流。这像是跟人类对话——用自然语言沟通模型自己理解。NLP 工程师的价值不是消失了而是转移了从模型设计 → 转向 “Prompt Engineering”从特征工程 → 转向 “RAG 架构设计”从模型训练 → 转向 “模型微调Fine-tuning”从单一任务模型 → 转向 “Agent 系统设计”实战用 LLM 做文本分类的工程化实践我接手的第一个项目给公司的客服系统做一个用户意图识别模块。传统做法收集 10 万条客服对话标注意图训练一个分类模型F1 做到 0.85。LLM 做法不用训练直接用 GPT-4 的 Few-shot Prompting。但问题来了GPT-4 API 调用成本太高响应太慢几百毫秒而且不能离线使用。我的解决方案小模型 LLM 的混合架构。importjsonfromtypingimportList,Dict,TuplefromtransformersimportAutoTokenizer,AutoModelForSequenceClassificationimporttorchfromopenaiimportOpenAIclassHybridIntentClassifier: 混合意图分类器小模型快速过滤 LLM 精确识别 核心思路 1. 先用轻量级模型BERT-base做快速分类覆盖常见意图 2. 对于置信度低的样本再调用 LLM 做精确识别 3. 平衡成本和准确率 # 意图定义和示例用于 Few-shot PromptingINTENTS{refund:用户想要退款或退货,complaint:用户投诉产品或服务问题,inquiry:用户咨询产品信息或使用方法,technical:用户遇到技术故障或报错,praise:用户表扬或表达满意,other:其他意图}FEW_SHOT_EXAMPLES[{text:这个质量太差了我要退货,intent:refund},{text:你们客服什么态度我要投诉,intent:complaint},{text:这个按钮在哪里怎么用,intent:inquiry},{text:一直报错 Connection Timeout怎么办,intent:technical},{text:太满意了推荐给大家,intent:praise},]def__init__(self,llm_api_key:str,confidence_threshold:float0.7): Args: llm_api_key: LLM API 密钥 confidence_threshold: 小模型置信度阈值低于此值调用 LLM self.confidence_thresholdconfidence_threshold# 加载轻量级本地模型BERT-baseCPU 也能跑model_namebert-base-chineseself.tokenizerAutoTokenizer.from_pretrained(model_name)self.modelAutoModelForSequenceClassification.from_pretrained(model_name,num_labelslen(self.INTENTS)# 输出维度 意图数量)self.model.eval()# 推理模式# 初始化 LLM 客户端用于兜底精确识别self.llm_clientOpenAI(api_keyllm_api_key)def_local_classify(self,text:str)-Tuple[str,float]: 使用本地轻量模型快速分类 Returns: (预测意图, 置信度) # Tokenize 输入inputsself.tokenizer(text,return_tensorspt,truncationTrue,max_length512,paddingTrue)# 推理withtorch.no_grad():outputsself.model(**inputs)probstorch.softmax(outputs.logits,dim1)confidence,predicted_idxtorch.max(probs,dim1)# 映射到意图标签intent_labelslist(self.INTENTS.keys())predicted_intentintent_labels[predicted_idx.item()]confidence_scoreconfidence.item()returnpredicted_intent,confidence_scoredef_llm_classify(self,text:str)-str: 使用 LLM 进行精确分类Few-shot Prompting 构造 Prompt包含意图定义和示例让模型做精确判断 # 构造意图定义说明intent_descriptions\n.join([f-{key}:{value}forkey,valueinself.INTENTS.items()])# 构造 Few-shot 示例examples\n.join([f文本\{ex[text]}\\n意图{ex[intent]}\nforexinself.FEW_SHOT_EXAMPLES])promptf你是一个客服意图识别专家。请根据用户输入判断其意图。 可选意图{intent_descriptions}示例{examples}现在请分析以下文本 文本{text} 请直接输出意图标签如refund不要解释。responseself.llm_client.chat.completions.create(modelgpt-4,messages[{role:system,content:你是一个精确的意图分类器。},{role:user,content:prompt}],temperature0.0,# 确定性输出不要随机max_tokens50)returnresponse.choices[0].message.content.strip().lower()defclassify(self,text:str)-Dict: 混合分类主入口 Returns: { text: 输入文本, intent: 识别意图, confidence: 置信度, method: local 或 llm使用的分类方式 } # 第一步先用本地模型快速分类local_intent,local_confself._local_classify(text)# 如果置信度足够高直接返回结果iflocal_confself.confidence_threshold:return{text:text,intent:local_intent,confidence:local_conf,method:local}# 第二步置信度低调用 LLM 精确识别llm_intentself._llm_classify(text)return{text:text,intent:llm_intent,confidence:None,# LLM 没有数值化置信度method:llm}# 使用示例if__name____main__:classifierHybridIntentClassifier(llm_api_keysk-...,confidence_threshold0.7)# 测试样本test_texts[这个产品怎么退款,# 明确意图小模型应该能搞定你们这也太坑了吧,# 模糊可能需要 LLM报错 500 了怎么解决,# 明确意图小模型应该能搞定虽然有点小问题但总体还行吧,# 模糊可能需要 LLM]fortextintest_texts:resultclassifier.classify(text)print(f 文本{text})print(f️ 意图{result[intent]}({classifier.INTENTS[result[intent]]}))print(f 置信度{result[confidence]:.4f}ifresult[confidence]else 置信度N/A (LLM))print(f⚙️ 方法{result[method]})print(-*50)这套混合架构的核心思想就是用工程能力弥补纯 LLM 方案的缺陷。成本80% 的请求用本地模型处理几乎零成本只有 20% 的模糊请求调用 LLM延迟本地模型 10ms 出结果LLM 兜底不影响整体体验准确率小模型 LLM 兜底综合准确率比纯小模型高比纯 LLM 便宜离线可用本地模型可以离线部署LLM 兜底可以在网络恢复后异步处理进阶NLP 工程师在 LLM 时代的核心竞争力做了几个项目后我发现 NLP 工程师在 LLM 时代的独特优势1. 数据质量把控我比那些纯工程出身的同事更懂什么是好数据。RAG 的 Chunk 怎么切、Fine-tuning 的数据怎么标、评估集怎么构造——这些都需要 NLP 的语义理解能力。2. 评估体系设计BLEU、ROUGE、BERTScore、困惑度Perplexity——这些传统 NLP 指标在 LLM 时代依然有用。我设计了一套自动化评估 Pipeline每天自动跑 1000 条测试用例监控模型输出的质量波动。3. 领域适配通用 LLM 不懂医学术语、法律条文、金融指标。我通过以下方式做领域适配RAG把领域知识库接入让模型查资料再回答Few-shot Prompting给模型看领域内的示例让它学会专业表达Fine-tuning用领域数据微调模型让它掌握专业术语和推理模式4. 多语言与跨语言LLM 在英文上很强但中文、日文、阿拉伯语的表现参差不齐。我用传统 NLP 的多语言技术跨语言词向量、翻译对齐来提升 LLM 在小语种上的表现。我的新技能树现在的我技能树变成了基础 NLP分词、词向量、序列标注、文本分类这些没有过时只是使用方式变了LLM 原理Transformer、注意力机制、自回归生成理解 LLM 为什么能和为什么错Prompt Engineering零样本、少样本、链式思考CoT、自一致性Self-consistencyRAG 架构向量检索、重排序、查询改写、上下文压缩模型微调LoRA、QLoRA、Prefix Tuning、P-Tuning低成本适配模型评估体系自动化评测、A/B 测试、人工评估、质量监控给 NLP 工程师的建议不要抛弃传统 NLP 知识— 词向量、序列标注、注意力机制这些理解 LLM 必不可少** Prompt Engineering 是新的模型设计** — 以前调网络结构现在调 Prompt 结构关注模型效率— 大模型很强但推理成本很高。如何用更小、更快的模型达到 90% 的效果是工程核心问题深耕一个领域— 通用 LLM 人人会用但医疗、法律、金融领域的深度应用需要 NLP 专业知识和行业知识NLP 工程师在 LLM 时代不是被淘汰而是被升级了。我们从设计模型结构升级到了设计智能系统从训练一个分类器升级到了编排一个能思考、能检索、能调用工具的 AI Agent。这是一场从教鹦鹉说话到跟人对话的进化。而能理解这种进化的人正是我们这些 NLP 老兵。想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2026 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明 AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容2026 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”
