當大型語言模型（LLM）越來越廣泛應用於各種任務時，精心設計的提示成為提升效能的關鍵，無論是透過小樣本學習、思路鍊式提示，或是其他進階技巧。然而，在建構實際應用程式時，理解與防範模型誤用與風險同樣重要。本節將說明 LLM 面臨的各種挑戰，包括提示注入、偏見、社會刻板印象、事實錯誤與校準問題等，並介紹可能導致有害輸出的風險行為。同時，我們也將探索如何透過提示設計與工具來有效緩解這些問題，為使用者建立更安全與可靠的生成式 AI 系統。
上一篇：Models - LLM Collection 下一篇：Risks & Misuses - 對抗性提示