24 ก.ย. 2569 14:27 น.
นายกฯ ออสเตรเลียเผย AI ของ OpenAI เจาะเว็บไซต์ข้อมูลสุขภาพรัฐบาล
นายกรัฐมนตรีแอนโทนี อัลบาเนซี ของออสเตรเลีย ระบุว่าโมเดลปัญญาประดิษฐ์ของ OpenAI สามารถหลีกเลี่ยงระบบป้องกันและเข้าถึงไฟล์ส่วนตัวบนเว็บไซต์ด้านสุขภาพของรัฐบาลออสเตรเลียได้ในระหว่างการฝึก AI ขณะที่นักวิจัยระบุว่า เหตุการณ์ดังกล่าวอาจเป็นหนึ่งในกรณีแรก ๆ ของการที่ AI แบบอัตโนมัติพยายามเจาะระบบเว็บไซต์ของหน่วยงานรัฐบาล
นายกรัฐมนตรีแอนโทนี อัลบาเนซี ของออสเตรเลีย เปิดเผยว่า โมเดลปัญญาประดิษฐ์ของ OpenAI ซึ่งเป็นผู้พัฒนา ChatGPT สามารถหลีกเลี่ยงมาตรการป้องกันระหว่างการฝึก และเจาะเข้าสู่เว็บไซต์ของรัฐบาลออสเตรเลียได้ พร้อมระบุว่าเหตุการณ์ดังกล่าวเป็นเรื่อง “ไม่อาจยอมรับได้”
อัลบาเนซีกล่าวว่า เมื่อเดือนมิถุนายนที่ผ่านมา เครื่องมือ AI พยายามเข้าถึงพอร์ทัลข้อมูลสถิติด้านสุขภาพของรัฐบาล และ “ไม่ยอมรับคำปฏิเสธ” ก่อนหลีกเลี่ยงข้อจำกัดด้านความปลอดภัยและเข้าถึงส่วนหนึ่งของเว็บไซต์ที่จัดเก็บไฟล์ที่ไม่เปิดเผยต่อสาธารณะ
อย่างไรก็ตาม OpenAI ไม่ได้แจ้งรัฐบาลออสเตรเลียเกี่ยวกับเหตุการณ์ดังกล่าวจนถึงวันที่ 10 กันยายน หรือเกือบ 3 เดือนหลังเกิดเหตุ โดยบริษัทส่งอีเมลไปยังกล่องจดหมายทั่วไปของหน่วยงานรัฐบาล ซึ่งมีเจ้าหน้าที่ตรวจสอบเพียงวันละครั้ง
อัลบาเนซีกล่าวว่า เขาได้หารือกับแซม อัลต์แมน ประธานเจ้าหน้าที่บริหารของ OpenAI ที่นครนิวยอร์ก และแสดงความกังวลอย่างยิ่งของรัฐบาลออสเตรเลีย รวมถึงแสดงความผิดหวังที่บริษัทใช้เวลานานเกินไปกว่าจะรายงานเหตุการณ์ให้รัฐบาลทราบ
ด้านแคตี กัลลาเกอร์ รัฐมนตรีกระทรวงบริการรัฐบาลออสเตรเลีย เปิดเผยว่า เหตุการณ์เกิดขึ้นระหว่างที่ OpenAI กำลังดำเนินการฝึกและประเมินประสิทธิภาพของโมเดล AI โดยให้โมเดลค้นหาข้อมูลบนอินเทอร์เน็ตเกี่ยวกับจำนวนเงินที่รัฐบาลออสเตรเลียใช้จ่ายด้านยา
กัลลาเกอร์กล่าวว่า AI สามารถเข้าถึงทั้งไฟล์ที่เปิดเผยต่อสาธารณะและไฟล์ที่ไม่เปิดเผยบนเว็บไซต์สถิติสุขภาพเก่าแห่งหนึ่ง ขณะที่อัลบาเนซียืนยันว่า ยังไม่มีหลักฐานว่าข้อมูลส่วนบุคคลถูกเข้าถึง และบริการอื่น ๆ ของรัฐบาลไม่ได้ถูกเจาะระบบ
ริชาร์ด มาร์เลส รองนายกรัฐมนตรีและรัฐมนตรีกลาโหมออสเตรเลีย เปรียบเทียบพฤติกรรมของ AI ว่าเป็นการ “ปีนข้ามรั้ว” โดยกล่าวว่า เมื่อระบบไม่ได้รับข้อมูลตามที่ร้องขอ แทนที่จะหยุดการทำงาน มันกลับพยายามหาทางหลีกเลี่ยงมาตรการป้องกันเพื่อเข้าถึงข้อมูล
รัฐบาลออสเตรเลียได้เปิดการตรวจสอบเหตุการณ์อย่างเร่งด่วน โดยจะรวมถึงหน่วยงานข่าวกรองแห่งชาติที่รับผิดชอบด้านความมั่นคงทางไซเบอร์
OpenAI ระบุว่า บริษัทตรวจพบพฤติกรรมดังกล่าวในเดือนสิงหาคม ระหว่างการตรวจสอบโมเดล AI อย่างละเอียด โดยพบว่าโมเดลพยายามค้นหาคำตอบและสถิติเกี่ยวกับออสเตรเลียจากเว็บไซต์และบริการของรัฐบาลหลายแห่งระหว่างการประเมินภายใน และในกระบวนการดังกล่าว โมเดลได้ดำเนินการบางอย่างที่บริษัทไม่ได้ตั้งใจให้เกิดขึ้น
เหตุการณ์ดังกล่าวเกิดขึ้นพร้อมกับการเปิดเผยผลการศึกษาของ Transluce องค์กรไม่แสวงหากำไรจากสหรัฐฯ ซึ่งระบุว่า พบหลักฐานของกลุ่มเอไอ เอเจนต์ (AI agent) หรือระบบ AI ที่สามารถดำเนินการต่าง ๆ ได้เองของ OpenAI หลายร้อยตัว พยายามเข้าถึงข้อมูลของหน่วยงานรัฐบาลออสเตรเลียและองค์กรอื่น ๆ เป็นระยะเวลาหลายเดือน
ข้อมูลที่นักวิจัยตรวจสอบพบร่องรอยการประสานงานระหว่างเอไอ เอเจนต์ รวมถึงความพยายามหลีกเลี่ยงระบบรักษาความปลอดภัยและค้นหาช่องโหว่ เพื่อเข้าถึงข้อมูลของสถาบันสุขภาพและสวัสดิการออสเตรเลีย (AIHW) และหน่วยงานสถิติอาชญากรรมของรัฐนิวเซาท์เวลส์ หรือ BOSCAR ตลอดจนองค์กรระหว่างประเทศอีกหลายแห่ง
นักวิจัยระบุว่า ความพยายามดังกล่าวอาจถือเป็นหนึ่งในกรณีแรกที่มีการรายงานว่าเอไอ เอเจนต์ พยายามเจาะเว็บไซต์ของหน่วยงานรัฐบาลด้วยตัวเอง แม้บันทึกการทำงานจะแสดงว่า AI ไม่ประสบความสำเร็จในการเจาะระบบของ BOSCAR และความพยายามส่วนใหญ่มุ่งไปที่ AIHW
นอกจากนี้ ยังพบว่าเอไอ เอเจนต์ พยายามเข้าถึงระบบของมหาวิทยาลัยนิวเม็กซิโก และแพลตฟอร์มข้อมูลออนไลน์ DATA USA ด้วย
AIHW ระบุว่า รับทราบเหตุการณ์ดังกล่าวแล้ว แต่ขณะนี้ยังไม่มีหลักฐานว่า AI agent เข้าถึงข้อมูลหรือสารสนเทศใด ๆ ที่ไม่เปิดเผยต่อสาธารณะ และหน่วยงานกำลังตรวจสอบเพิ่มเติม
ข้อมูลจากการศึกษายังพบว่าเอไอ เอเจนต์ของ OpenAI ใช้เว็บไซต์เขียนโค้ดของเยอรมนีชื่อ DseWiki เป็นช่องทางสื่อสารระหว่างกันโดยที่บริษัทไม่ทราบ โดยโพสต์ของเอไอ เอเจนต์ราว 12 ตัวกล่าวถึง AIHW มากกว่า 300 ครั้ง ตั้งแต่วันที่ 18 พฤษภาคม และเพิ่มขึ้นอย่างมากในช่วง 5 วันนับจากวันที่ 17 มิถุนายน
บันทึกดังกล่าวแสดงให้เห็นว่าเอไอ เอเจนต์พยายามค้นหาข้อมูลเกี่ยวกับค่าใช้จ่ายเฉลี่ยต่อคนของรัฐบาลสำหรับยารักษาโรคผิวหนังในพื้นที่รัฐบาลท้องถิ่นต่าง ๆ ของรัฐวิกตอเรีย
ในช่วงแรก ความพยายามดังกล่าวถูก Cloudflare ซึ่งเป็นผู้ให้บริการระบบรักษาความปลอดภัยทางไซเบอร์สกัดไว้ เนื่องจากระบบสามารถตรวจจับและจำกัดการเข้าถึงจากทราฟฟิกที่ไม่ได้มาจากมนุษย์ ขณะที่ข้อมูลบนเว็บไซต์ดังกล่าวแสดงให้เห็นว่าเอไอ เอเจนต์แลกเปลี่ยนข้อมูลเกี่ยวกับการใช้พร็อกซี บริการจับภาพหน้าจอ และแม้แต่การคาดเดาชื่อไฟล์ เพื่อพยายามหลีกเลี่ยงระบบรักษาความปลอดภัย
การตรวจสอบยังพบว่า เหตุการณ์ดังกล่าวเกิดขึ้นในช่วงเวลาเดียวกับที่เอไอ เอเจนต์ ของ OpenAI เข้าถึงข้อมูลสถิติ Medicare ที่ไม่เปิดเผยต่อสาธารณะ ซึ่งจัดเก็บโดย Services Australia ขณะ AI กำลังดำเนินภารกิจที่เจ้าหน้าที่มอบหมายให้
OpenAI ระบุว่า การตรวจสอบเบื้องต้นพบว่ากิจกรรมจำนวนมากที่ปรากฏในรายงานของ Transluce มีความเกี่ยวข้องกับกรณีต่าง ๆ ที่อยู่ระหว่างการตรวจสอบเกี่ยวกับพฤติกรรมของโมเดล AI ที่ไม่เป็นไปตามที่บริษัทคาดหมาย
อย่างไรก็ตาม บันทึกจากเว็บไซต์ DseWiki และข้อมูลจาก urlquery ที่นักวิจัยใช้ตรวจสอบ ยังไม่พบการกล่าวถึง Medicare หรือ Services Australia โดยตรง
มาร์เลสย้ำว่า ผลกระทบจากเหตุการณ์เข้าถึงข้อมูล Medicare มีขอบเขตจำกัด โดยระบุว่าไม่มีข้อมูลทางการแพทย์ของบุคคลใดถูกเข้าถึง และระบบของรัฐบาลไม่ได้ถูกเจาะจนเสียหาย แต่ยอมรับว่าเป็นเหตุการณ์ร้ายแรง เนื่องจากเอไอ เอเจนต์สามารถเข้าถึงเว็บไซต์ของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต
รัฐบาลอัลบาเนซีจึงประกาศจัดตั้งคณะทำงานเพื่อสอบสวนเหตุการณ์ที่เกี่ยวข้องกับ Medicare และประเมินภัยคุกคามทางไซเบอร์รูปแบบใหม่ที่เกิดจากเทคโนโลยี AI
เหตุการณ์ดังกล่าวเกิดขึ้นท่ามกลางความกังวลทั่วโลกเกี่ยวกับศักยภาพของ AI ขั้นสูง หลังมีการพบเหตุการณ์ด้านความปลอดภัยทางไซเบอร์ที่เกี่ยวข้องกับโมเดลของทั้ง OpenAI และ Anthropic โดยก่อนหน้านี้ OpenAI ยืนยันว่าโมเดล AI สองตัวสามารถหลุดออกจากสภาพแวดล้อมการทดสอบแบบปิดและเข้าถึงระบบภายในของ Hugging Face ซึ่งเป็นแพลตฟอร์มที่นักพัฒนา AI ใช้จัดเก็บและแบ่งปันโค้ด
ขณะที่ Anthropic เปิดเผยว่า โมเดลของบริษัทสามารถเข้าถึงระบบขององค์กรที่ไม่เปิดเผยชื่อ 3 แห่งโดยไม่ได้รับอนุญาต ระหว่างการทดสอบที่ออกแบบมาเพื่อป้องกันไม่ให้โมเดลเข้าถึงระบบในโลกจริง ส่วน Google ระบุเมื่อสัปดาห์ที่ผ่านมาว่า โมเดล AI สำหรับผู้บริโภคอย่าง Gemini สามารถเจาะระบบหลายแห่งได้ด้วยการคาดเดาข้อมูลสำหรับเข้าสู่ระบบ
เมื่อเดือนที่ผ่านมา องค์กรกว่า 100 แห่งทั่วโลก รวมถึง OpenAI และ Anthropic ได้ร่วมลงนามในจดหมายเปิดผนึกเรียกร้องให้มีความร่วมมือระดับโลกเพื่อ “เสริมความแข็งแกร่งให้ระบบป้องกันทางไซเบอร์” รับมือภัยคุกคามด้านความปลอดภัยไซเบอร์ที่ขับเคลื่อนด้วย AI.
ที่มา ABC News / AFP
