พบช่องโหว่บน ChatGPT เมื่อสรุปย่อเว็บไซต์โดย AI สามารถเอามาใช้หลอกลวง
แบบ Phishing ได้

แม้ผู้ใช้งานหลายรายจะรู้สึกว่าเครื่องมือปัญญาประดิษฐ์ หรือ AI (Artificial Intelligence) นั้นเป็นเครื่องมือที่สมบูรณ์แบบ แต่การตรวจพบบั๊กในเครื่องมือเหล่านี้ก็สามารถพบได้บ่อย ๆ บางอย่างยังสามารถเอามาใช้เป็นตัวกลางในการปล่อยมัลแวร์ได้ด้วย เช่น กรณีนี้

จากรายงานโดยเว็บไซต์ The Hacker News ได้กล่าวถึงการตรวจพบช่องโหว่ในส่วนของความสามารถในการทำสรุปเว็บไซต์ (Web Summary) ของตัว ChatGPT ที่สามารถนำไปใช้ในเทคนิคหลอกลวงรูปแบบใหม่ที่เรียกว่า ChatGPhish จากการที่ตัว ChatGPT นั้นจะเชื่อในส่วนของการมาร์กดาวน์ (Markdown) ตัว URL และ รูปบนเว็บไซต์ ของแฮกเกอร์จะนำมาใช้ในการทำแคมเปญ Phishing รูปแบบใหม่ ด้วยการใช้เทคนิคให้ตัว ChatGPT ทำสรุปเว็บไซต์ด้วยการดึง (Fetch) ส่วนของลิงก์ และ รูปภาพที่ถูกมาร์กดาวน์บนเว็บไซต์ของแฮกเกอร์เหล่านี้มาอยู่ในสภาพหน้าจอสำหรับให้ผู้ใช้งานมีปฏิสัมพันธ์ด้วย หรือ UI (User Interface) ที่ดูหน้าเชื่อถือด้วยฝีมือของ ChatGPT

โดยสามารถสรุปถึงวิธีนี้ได้ง่าย ๆ คือ แฮกเกอร์นั้นเพียงแค่ทำการเขียนโค้ดในรูปแบบการสั่งการให้แสดงผลไว้บนเว็บไซต์ของตนเอง แล้วสั่งการให้ ChatGPT ทำการสรุปหน้าเว็บไซต์ ตัว ChatGPT ก็จะทำการดึงเอาทั้งโค้ด ลิงก์ และรูปภาพที่อยู่บนหน้าเพจที่แฮกเกอร์ทำไว้คร่าว ๆ มาสร้างเป็นหน้าจอที่น่าเชื่อถือ ซึ่งทำได้ตั้งแต่การสร้างหน้าแจ้งเตือนปลอม ตลอดจนทำ QR Code เพื่อใช้ในการหลอกเหยื่อได้อย่างง่ายดายอย่างมาก ซึ่งจากวิธีการนี้นี่เอง แฮกเกอร์สามารถทำการแทรกคำสั่งดังกล่าวข้างต้นไว้ในหน้าเพจของเว็บไซต์ที่แฮกมาได้ แล้วหลังจากที่เหยื่อหลงติดกับเข้ามาในเพจดังกล่าวแล้วใช้งานคำสั่งให้สรุปหน้าเว็บไซต์ เหล่า Prompt หรือ คำสั่งที่แอบซ่อนไว้บนเพจก็จะถูกก่อร่างสร้างขึ้นมาใหม่บนหน้าจอของ ChatGPT ทำให้เหยื่อติดว่าเป็นของเว็บไซต์จริง ๆ แต่แท้จริงแล้วพอกดแล้วกลับนำไปสู่การติดมัลแวร์ เรียกได้ว่าเป็นการใช้วิธีการโจมตีแบบยิงคำสั่ง หรือ Prompt Injection วิธีหนึ่งได้เลยทีเดียว

แต่ผู้ใช้งานอาจเบาใจได้อย่างหนึ่งคือ วิธีการดังกล่าวนั้นเป็นเพียงการทดสอบของทีมวิจัยแห่งบริษัทผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์เท่านั้น จะใช้งานได้จริงหรือไม่ หรือทางบริษัทผู้พัฒนา AI จะทำการแก้ไขให้เสร็จสิ้นก่อน อาจเป็นเรื่องที่ต้องติดตามกันต่อไป