Articles Chatbot

なぜRAGパイプラインは漏らしてはいけないデータを漏らし続けるのか:検索層(Retrieval Layer)でのアクセス制御
AI Chatbot

なぜRAGパイプラインは漏らしてはいけないデータを漏らし続けるのか:検索層(Retrieval Layer)でのアクセス制御

御社のアプリにはロールベースの権限がある。文書管理システムにはフォルダ単位のACLがある。しかしRAGチャットボットにはそのどちらもない — あるのは一つの共有ベクトルインデックスだけで、正しい質問さえすれば給与明細でも喜んで差し出してしまう。

Read More
ทำไม RAG Pipeline ของคุณถึงยังหลุดข้อมูลที่ไม่ควรหลุด: การควบคุมสิทธิ์การเข้าถึงที่ชั้น Retrieval
AI Chatbot

ทำไม RAG Pipeline ของคุณถึงยังหลุดข้อมูลที่ไม่ควรหลุด: การควบคุมสิทธิ์การเข้าถึงที่ชั้น Retrieval

แอปพลิเคชันของคุณมีระบบสิทธิ์ตามบทบาท (role-based permission) ระบบจัดการเอกสารของคุณมี ACL ระดับโฟลเดอร์ แต่ RAG chatbot ของคุณไม่มีทั้งสองอย่าง — มันมี vector index เดียวที่ใช้ร่วมกัน และพร้อมจะส่งข้อมูลเงินเดือนให้ใครก็ตามที่ถามคำถามถูกจังหวะ

Read More
RAG คืออะไร? คู่มืออธิบายแบบเข้าใจง่ายสำหรับผู้บริหาร
AI Chatbot

RAG คืออะไร? คู่มืออธิบายแบบเข้าใจง่ายสำหรับผู้บริหาร

ทุกองค์กรที่เคยลอง ChatGPT สำหรับงานภายในล้วนเจอปัญหาเดียวกัน: โมเดลไม่รู้จักผลิตภัณฑ์ของคุณ ระเบียบขั้นตอนของคุณ สัญญา หรือนโยบายภายใน มันตอบผิดด้วยความมั่นใจ

Read More
LlamaIndex + pgvector: RAG ระดับ Production สำหรับเอกสารธุรกิจไทยและญี่ปุ่น
AI Chatbot

LlamaIndex + pgvector: RAG ระดับ Production สำหรับเอกสารธุรกิจไทยและญี่ปุ่น

RAG demo ส่วนใหญ่ทำงานได้ดี แต่ระบบ RAG ที่นำขึ้น production จริงส่วนใหญ่ล้มเหลว — อย่างเงียบๆ เสียค่าใช้จ่ายสูง และแก้ไขปัญหายาก

Read More
为什么你的 RAG 应用在生产环境中会失败(以及如何修复)
AI Chatbot

为什么你的 RAG 应用在生产环境中会失败(以及如何修复)

你构建了一个 RAG 应用。演示效果令人印象深刻。管理层非常满意。然后你上线了。 现实随之而来。 用户收到错误的答案。聊天机器人自信地给出错误信息。真实流量涌入时延迟飙升。向量搜索返回不相关的 Chunk。支持工单不断堆积。 你并不孤单。这是当前企业 AI 项目中最常见的轨迹。"在演示中可以运行"和"在生产环境中可以运行"之间的差距——正是大多数 RAG 项目走向失败的地方。 本文将拆解 RAG 最常见的 7 种失败模式,并提供每种模式的具体解决方案。

Read More