AI ทำงานได้ แต่ไม่มีสิทธิ์ทำเองทุกอย่าง
ที่ FlowBiz เราไม่ได้เริ่มจากคำถามว่า AI ทำอะไรได้บ้าง แต่เริ่มจากคำถามว่าอะไรควรถูกอนุญาต อะไรควรถูกปฏิเสธ และอะไรต้องมีหลักฐานก่อนจึงจะขยับต่อได้
สิ่งที่หน้านี้ยืนยันวันนี้
เฉพาะสิ่งที่ถูกล็อกและตรวจสอบย้อนหลังได้ในวันนี้
- การกำกับดูแลถูกวางไว้ก่อนความสามารถที่ลงมือเปลี่ยนแปลงได้
- สถานะที่ระบบไม่รู้จักจะถูกปฏิเสธเป็นค่าเริ่มต้น
- ความสามารถในการเปลี่ยนแปลงระบบยังไม่ได้รับอนุญาตให้เปิดใช้งาน
- สิทธิ์เกี่ยวกับ branch และ commit ยังอยู่ในขอบเขตปฏิเสธไว้ก่อน
5 หลักการกำกับดูแล
หลักการเหล่านี้มีไว้เพื่อบอกให้ชัดว่า AI ในระบบนี้ทำหน้าที่อะไร และที่สำคัญไม่ทำหน้าที่อะไร เพื่อให้การทำงานยังอยู่ในขอบเขตที่ตรวจสอบได้
Core เป็นผู้อนุญาตเดียว
Core is authority
การตัดสินใจว่าอะไรทำได้หรือทำไม่ได้ จะไม่ปล่อยให้ agent เลือกเอง อำนาจอยู่ที่แกนกลางของระบบซึ่งกำหนดขอบเขตไว้อย่างชัดเจน
AI สร้างหลักฐาน ไม่ใช่ผู้สั่งการ
Agents are evidence producers
หน้าที่ของ AI คือเสนอร่าง สรุปข้อมูล และจัดเตรียมหลักฐานประกอบ ไม่ใช่สั่งให้ระบบเปลี่ยนแปลงสิ่งสำคัญได้ด้วยตัวเอง
สิ่งที่ระบบไม่รู้ จะไม่ได้รับอนุญาต
Unknown = deny
ถ้าสถานะหรือคำขออยู่นอกขอบเขตที่นิยามไว้ ระบบจะไม่ตีความเอง คำตอบเริ่มต้นคือปฏิเสธไว้ก่อน เพื่อหลีกเลี่ยงการเดาผิดแล้วลงมือทำ
ถ้าบันทึกไม่ได้ ระบบจะไม่ทำ
Audit must fail closed
ทุกขั้นต้องมีร่องรอยตรวจสอบย้อนหลังได้ ถ้ากลไกบันทึกหรือยืนยันหลักฐานใช้ไม่ได้ การทำงานจะหยุด ไม่ใช่เดินหน้าต่อแบบไม่มีบันทึก
ความสามารถใหม่ต้องผ่าน governance ก่อนเสมอ
No runtime until authorized
เราไม่เปิดความสามารถใหม่เพียงเพราะทำได้ในทางเทคนิค ต้องมีสัญญา ขอบเขต และเงื่อนไขอนุญาตที่ชัดก่อน จึงค่อยพิจารณาใช้งานจริง
ทำงานอย่างไรในเชิงสัญญา
ส่วนนี้อธิบายโครงสร้างแบบสัญญา ไม่ใช่การอ้างว่ามีระบบที่ทำงานสดอยู่ตลอดเวลา
1. AI รับโจทย์
งานเริ่มจากโจทย์ที่กำหนดขอบเขตไว้แล้ว ว่าอยากตรวจสอบอะไร สรุปอะไร หรือร่างอะไร ไม่ได้เริ่มจากการให้ระบบมีอิสระจะไปเปลี่ยนแปลงสิ่งต่างๆ เอง
2. AI จัดทำข้อเสนอ
agent จัดทำข้อเสนอหรือหลักฐานประกอบ เช่น ร่างการเปลี่ยนแปลง เหตุผล และขอบเขตที่เกี่ยวข้อง เพื่อให้คนหรือระบบแกนกลางใช้พิจารณาต่อได้อย่างเป็นขั้นตอน
3. ข้อเสนอถูกทบทวน
ก่อนมีการขยับไปขั้นถัดไป ต้องมีการทบทวนว่าข้อเสนอนั้นอยู่ในสัญญาฉบับไหน มีสิทธิ์อะไรบ้าง และมีสิ่งใดที่ต้องถูกปฏิเสธโดยตรง
4. การทำงานเกิดขึ้นได้เฉพาะในขอบเขตที่อนุมัติ
ถ้าขอบเขตนั้นได้รับอนุญาตไว้แล้ว การทำงานจะเกิดขึ้นได้เฉพาะตามเงื่อนไขที่ระบุ ถ้าอยู่นอกขอบเขตสัญญา การกระทำนั้นจะไม่เกิดขึ้น
5. ทุกขั้นต้องมีบันทึกย้อนหลังได้
ไม่ว่าจะเป็นข้อเสนอ การอนุญาต หรือผลลัพธ์ ต้องย้อนดูที่มาได้ในภายหลัง เพราะการกำกับดูแลที่ดีต้องอธิบายการตัดสินใจได้ ไม่ใช่แค่หวังว่าระบบจะทำถูก
สิ่งที่ถูกล็อกไว้แล้ววันนี้
รายการด้านล่างคือขอบเขตที่นิยามเป็นสัญญาไว้แล้ว หรือกำลังถูกตรึงไว้ในระดับแกนกลาง เพื่อไม่ให้ความสามารถขยายออกไปเร็วกว่ากลไกกำกับดูแล
หลักการกำกับดูแลทั้ง 5 ข้อ
Locked principles
หลักการทั้ง 5 ข้อด้านบนคือกรอบตัดสินใจระดับฐาน ใช้กำหนดว่าระบบควรหยุดตรงไหนก่อนจะพูดถึงการเปิดความสามารถใหม่
lockedสัญญา CI provenance
flowbiz-core-v0.19-ci-provenance-contract
การเปลี่ยนแปลงจากกระบวนการ CI ต้องผูกกับหลักฐานที่ตรวจสอบย้อนกลับได้ ไม่ถือว่าปลอดภัยเพียงเพราะ pipeline ทำงานเสร็จ
v0.19สัญญา secret governance
flowbiz-core-v0.20-secret-governance
ข้อมูลลับไม่ถูกปล่อยให้ไหลผ่านระบบแบบคลุมเครือ การใช้งานและขอบเขตการเข้าถึงต้องถูกกำกับไว้แยกจาก convenience ของ agent
v0.20สัญญา branch + commit
flowbiz-core-v0.21-branch-commit-core
สิทธิ์ระดับแกนสำหรับ branch และ commit ถูกวางไว้แล้ว แต่ความสามารถในการเปลี่ยนแปลงระบบยังไม่ถูกเปิดใช้งาน ในสถานะปัจจุบัน ขอบเขตนี้ยังเป็นโหมดปฏิเสธไว้ก่อน
in progressContracts ทั้งหมดสามารถตรวจสอบย้อนหลังได้จาก git history ของ repository หลัก
สิ่งที่หน้านี้ไม่ได้อ้างว่าเป็น
FlowBiz ยังไม่ใช่ SaaS ที่เปิดสมัครใช้งานทั่วไป ตอนนี้ระบบถูกใช้กับงานและลูกค้าที่ทีมดูแลโดยตรง
หน้านี้ไม่ได้อ้างว่ามีระบบทำงานสดตลอดเวลา หน้าตรวจสอบแบบสด หรือการปล่อยขึ้นใช้งานอัตโนมัติ หรือระบบที่ปล่อยให้ AI เปลี่ยนแปลงระบบจริงได้เอง
จุดประสงค์ของการกำกับดูแลในระยะนี้คือทำให้ขอบเขตชัดก่อน เพื่อให้ทุกการขยับมีเงื่อนไข มีหลักฐาน และมีภาษาที่ตรวจสอบร่วมกันได้
สนใจคุยกัน?
ถ้าคุณอยากเข้าใจวิธีคิดเรื่องขอบเขต อำนาจการอนุญาต และการออกแบบงานที่ตรวจสอบย้อนหลังได้ เราคุยให้ฟังได้แบบตรงไปตรงมา
ไปหน้าติดต่อ