Cybersec Asia x AI Asia 2026
3 session
จากกล่องดำ เป็น มองเห็นหมด สูตรที่ทำให้ LLM ไม่พัง 3 อย่าง หาเหตุให้ไวขึ้น ถูกลง ปลอดภัยขึ้น
💎 หลายคนเริ่มเอา LLM ไปใช้จริงกับงานบริษัทแล้ว แต่พอขึ้นระบบ
จริง ปัญหาที่เจอบ่อย ๆ ไม่ใช่แค่ให้ตอบเก่ง… คือ ต้องเสถียร + ปลอดภัย
+ คุมค่าใช้จ่ายให้ได้ ด้วย
สรุป Session: LLMs at Scale: How Observability Keeps AI Apps Reliable and Secure จากงาน Cybersec Asia x AI Asia 2026 โดย
คุณ Warach Wongpairoj, Senior Sales Engineer at Datadog
🔶 1) ทำไมพอ LLM ใช้จริง ถึงเริ่มปวดหัว
- ระบบมันไม่ได้ทำงานเส้นตรงแบบเดิม ๆ (บางทีตอบไม่เหมือนกัน ทั้งที่ถามคล้ายกัน)
- พอมีหลายขั้นตอน หลาย tool หลายแหล่งข้อมูล เวลามีปัญหา… หาต้นตอช้า
- ค่าใช้จ่ายบานได้ง่าย โดยเฉพาะเรื่อง token usage
- ความเสี่ยงด้านข้อมูล/ความปลอดภัยสูงขึ้น เช่น prompt injection, PII leaks
🔶 ✅ 2) Observability ช่วยอะไร (แบบจับต้องได้)
พูดง่าย ๆ คือ ทำให้ AI ที่เคยเป็นกล่องดำ กลายเป็นระบบที่มองเห็นได้
เพื่อให้ตอบคำถามพวกนี้ได้เร็วขึ้น:
- ช้าเพราะอะไร (latency มาจากขั้นไหน)
- พังตรงไหน (error/failed calls/ขั้นตอนที่หลุด)
- แพงเพราะอะไร (token usage พุ่งจาก prompt หรือ flow ตรงไหน)
- คุณภาพตกเมื่อไหร่ (เริ่มตอบมั่ว/หลุดประเด็น/เสี่ยงคำไม่เหมาะสม)
🔶 3) 3 ประเด็นหลักที่ Session เน้น
1. Operational Performance ทำให้ LLM performance ดีขึ้น + ลด
ต้นทุนด้วยการไล่ดู error, latency, token usage แบบเป็นขั้นตอน
2. Quality / Security / Safety
- ประเมินคำตอบก่อนกระทบผู้ใช้ จับเรื่อง hallucinations, toxicity, prompt injection, PII leaks
3. Evaluation & Iteration ทดลองเปรียบเทียบ model/prompt แบบไม่เดา ใช้ datasets/experiments เพื่อดูว่า เปลี่ยนแล้วดีขึ้นจริงไหม
🔶 ภาพใหญ่ของตลาด: AI มาเร็ว แต่ “การกำกับดูแล” มาช้า
- คุณ Warach เล่าว่า LLM ถูกใช้งานแพร่หลายมากขึ้นเรื่อย ๆ นับจากการเปิดตัว ChatGPT ในปี 2023 และในภูมิภาค SEA/APAC ก็มีทั้งภาครัฐและนักพัฒนาใช้ AI ช่วยเขียนโค้ด/ทำงาน ทำให้เร็วขึ้นจริง
แต่ปัญหา คือ หลายองค์กรใช้ก่อนค่อยคิดทีหลัง ขาดการ ตรวจสอบ + การจัดการ (Governance) ซึ่งเสี่ยงพาเรื่องปวดหัวตามมา ทั้งด้านข้อมูล ต้นทุน และความน่าเชื่อถือของผลลัพธ์
🔶 กรณีศึกษาที่ถูกยกขึ้นมา: แนวทางของสิงคโปร์ (โฟกัส Privacy และ Data Security)
คุณวราชยกตัวอย่างว่า หน่วยงานภาครัฐของสิงคโปร์มีการออก Guidance เรื่องการใช้ AI โดยเน้นเรื่อง
🔹 การปกป้องความเป็นส่วนตัวของข้อมูล (Privacy Safeguard Information)
🔹 ความปลอดภัยของ Big Data
- เพราะต่อให้แอปดูฉลาดขึ้น ถูกใจผู้ใช้ขึ้น แต่ถ้าหลุดเรื่องข้อมูล = พังยาว
🔶 ทำไม Monitor AI ยากกว่าที่คิด
- คุณวราชเปรียบว่า AI Model เหมือนสิ่งมีชีวิต เพราะมันเปลี่ยนเวอร์ชันถี่มาก (ราว ๆ 3–6 เดือน)
พอ Model เปลี่ยน Output ก็เปลี่ยน บางทีดีขึ้น บางทีแย่ลงแบบไม่รู้ตัว นี่คือ เหตุผลที่ Datadog พยายามทำเครื่องมือสำหรับ Monitor การเปลี่ยนแปลง และใช้ AI มาช่วย Observe อีกชั้นหนึ่ง พร้อมกันนั้นก็เอา Observability ไปตรวจการทำงานของ LLM App ด้วย
🔶 จุดแข็งของ Datadog ที่พยายามโชว์ให้เห็นภาพ
- Datadog วางตัวเป็นทั้ง Observability + Security Platform ที่มี Telemetry ครบตั้งแต่
🔹 Infrastructure / Server / Cloud
🔹 Application Code / Database
🔹 End User Experience (Real User Monitoring)
ทำให้ AI Engineer เห็นภาพรวมทั้งระบบ ในที่เดียว ไม่ต้องไล่เปิดหลายจอหลายเครื่องมือ
🔶 เปรียบเทียบที่เล่าแล้วเข้าใจง่าย: LLM App = ร้านอาหาร
- คุณวราชเปรียบ LLM App กับร้านอาหารแบบนี้
🔹 Front-End = พนักงานรับออเดอร์
🔹 LLM = พ่อครัว (เรามักไม่รู้สูตรจริง)
🔹 Output = อาหารที่เสิร์ฟออกไป
ปัญหาที่เจอได้ คือ พ่อครัวทำผิดสูตร (Hallucinate) หรือทำช้า (Latency) และ Datadog พยายามทำให้ครัวที่เราไม่เห็น เป็นสิ่งที่ตรวจสอบได้
👉 ถ้าบริษัทจะใช้ LLM แบบจริงจัง Observability คือ ของที่ทำให้
AI จากของเล่น → ระบบที่เชื่อถือได้ในงานจริง
💛 ติดตามเพจเราไว้ เพื่อรับความรู้สาระดี ๆ แบบนี้ได้ประจำครับ
#ใช้aiให้ดีต้องมีinsight #insightist #AI #topic #idea #EventInsight #NCSAThailand #AWS #AgenticAI #AmazonQuickSuite #Kiro #AmazonBedRock NCSA Thailand #CyberSecAsia #AIAsia #NCSAThailand #CyberSecurity Datadog