价值四维
客户体验、风险管理、业务创新、降低成本。模型接入、接口联调、素材生成只是手段,不是价值本身。
四种形态
Chatbot = 问答;Copilot = 模块化辅助;Agent = 自主执行;AIGC = 内容生成。
生成式 AI
本质是预测下一个词。训练顺序:预训练 → 微调 → RLHF。推理像闭卷,RAG像开卷;Temperature越高,创意和不确定性一起上升。
四类风险
直接/间接提示词注入、越狱攻击、模型投毒、幻觉。幻觉常来自数据噪声偏差、概率生成限制、模型倾向“回答而非承认不知道”。