นพพล อนุกูลวิทยา

 

 

ลองนึกภาพสายโทรศัพท์ช่วงเย็นวันทำงาน ขณะที่ทุกคนกำลังเลิกงานกลับบ้าน ปลายสายเป็นเสียงลูกสาวคุณที่กำลังร้องไห้ บอกว่าเพิ่งประสบอุบัติเหตุและต้องการเงินด่วน ทุกคำ ทุกสำเนียง ทุกจังหวะการหายใจ เป็นเสียงลูกคุณจริง ๆ คุณจึงรีบโอนเงินไปโดยไม่ทันคิด แต่ความจริงคือ ลูกสาวคุณกำลังนั่งรถไฟฟ้ากลับบ้าน หลังจากเลิกเรียน โดยเสียงที่คุณเพิ่งได้ยิน ไม่เคยออกมาจากปากเธอเลยสักคำ

นี่ไม่ใช่ฉากในหนัง Sci-fi แต่คือเรื่องที่เกิดขึ้นจริงกับหลายครอบครัวทั่วโลกวันนี้ และมันคือด้านหนึ่งของสิ่งที่เราเรียกกันว่า “Dark AI”

ตัวเลขจากศูนย์ต่อต้านการฉ้อโกงออนไลน์ บอกว่าแค่ 120 วันแรกของปี 2569 บ้านเรามีคนแจ้งความคดีออนไลน์ถึง 121,921 คดี เสียหายรวมกว่า 7,480 ล้านบาท และเครื่องมือที่ทำให้กลโกงพวกนี้แนบเนียนขึ้นก็คือ AI ตัวเดียวกับที่เราใช้กันอยู่ทุกวัน

ที่ผ่านมาเราพูดถึงความมหัศจรรย์ของ AI กันมาเยอะแล้ว แต่เหมือนเหรียญสองด้าน เทคโนโลยียิ่งทรงพลังเท่าไร เงาที่ทอดตามมาก็ยิ่งยาวขึ้นเท่านั้น บทความนี้ไม่ได้เขียนเพื่อให้เรากลัว AI แต่เพื่อให้เรา “รู้เท่าทัน” ลองมาดู 4 เงามืดที่เกิดขึ้นจริงไปพร้อมกัน ทุกเคสมีชื่อบริษัทและมีคำตัดสินของศาลรองรับ

เงามืดที่ 1: Deepfake – เมื่อ “เห็นกับตา” ไม่ใช่ข้อเท็จจริงอีกต่อไป

เราถูกสอนมาทั้งชีวิตว่า “เห็นกับตา ได้ยินกับหู” คือหลักฐานที่เชื่อได้ที่สุด ภาพและเสียงเคยเปรียบเสมือนข้อเท็จจริง แต่วันนี้ Deepfake เปลี่ยนสิ่งนั้นให้กลายเป็น “ข้อเท็จจริงที่สร้างได้” เพราะ AI ปลอมเสียงคนที่เรารักได้จากคลิปแค่ไม่กี่วินาที

ที่น่ากลัวที่สุดไม่ใช่ความสามารถของมัน แต่คือราคาที่ถูกลงทุกวัน รายงานของแคสเปอร์สกี้ (Kaspersky) กรกฎาคม 2026 ระบุว่าบริการรับจ้างทำ Deepfake ในตลาดมืด เริ่มต้นแค่ 30 ดอลลาร์สหรัฐ (ประมาณ 1,000 บาท) สำหรับเสียงปลอม และ 50 ดอลลาร์สหรัฐ (ประมาณ 1,660 บาท) สำหรับวิดีโอ อาวุธที่เคยอยู่ในมือผู้เชี่ยวชาญไม่กี่คน วันนี้ใครก็ซื้อได้

เคสจริง: Arup กับการประชุมที่ทุกคนในห้องเป็นของปลอม

ในปี 2024 พนักงานการเงินของ Arup บริษัทวิศวกรรมสัญชาติอังกฤษ สำนักงานฮ่องกง ถูกเชิญเข้าประชุมวิดีโอคอลกับ “CFO” และเพื่อนร่วมงานอีกหลายคน ทุกคนในสายดูและฟังเหมือนคนจริงทุกอย่าง แต่จริง ๆ แล้วทุกคนในห้องนั้น ยกเว้นตัวเขาคนเดียว เป็นภาพและเสียงที่ AI สร้างขึ้นมาหมด เขาโอนเงินตามคำสั่งไป 15 ครั้ง รวมกว่า 800 ล้านบาท ในสัปดาห์เดียว สิ่งที่พังในเคสนี้จึงไม่ใช่ระบบไอที แต่คือสัญชาตญาณของคนที่เชื่อในสิ่งที่ตาเห็น

เคสจริง: เมื่อเงามืดมาถึงเมืองไทย

บ้านเราเจอรูปแบบที่ตรงเป้ากว่านั้น คือการปลอมเป็นคนที่เราไว้ใจ ตั้งแต่แก๊งคอลเซ็นเตอร์ที่ใช้ Deepfake ปลอมเป็นตำรวจวิดีโอคอลมาขู่ให้โอนเงิน เพื่อตรวจสอบความบริสุทธิ์ ไปจนถึงคลิปดาราดังที่ถูกปลอมขึ้นมาชวนเล่นพนันออนไลน์ ที่น่ากังวลกว่านั้นคือตำรวจเริ่มเจอกลุ่มที่ใช้ AI หลอก AI โดยเอาภาพที่ AI สร้างหน้าตาไปผ่านระบบสแกนใบหน้าของธนาคาร

ในวงการเรา ลองนึกภาพรีวิวโรงแรมปลอมที่เป็นคลิป “ลูกค้าตัวจริง” พูดชม หรือเสียงพนักงานที่ถูกปลอมเพื่อโทรหลอกเปลี่ยนเลขบัญชี สิ่งที่ธุรกิจบริการต้องเตรียมพร้อมต่อจากนี้ จึงเป็นวิธียืนยันตัวตนที่รัดกุมพอจะรับมือโลกที่ภาพและเสียงเชื่อไม่ได้

เงามืดที่ 2: Hallucination – เมื่อ AI “มั่นใจแต่มั่ว”

ความเข้าใจผิดที่อันตรายที่สุดเกี่ยวกับ AI คือคิดว่ามัน “รู้” ทุกอย่าง ความจริงคือ AI แบบภาษา (Language Model) ไม่ใช่สารานุกรม ที่เก็บความจริงไว้ แต่เป็น นักเล่าเรื่องที่เก่งมาก ซึ่งทำงานด้วยการเดาว่าคำถัดไปควรเป็นอะไร บางทีมันจึงแต่งข้อมูลที่ฟังดูน่าเชื่อถือขึ้นมาเฉย ๆ อาการนี้เรียกว่า “Hallucination” และที่อันตรายเป็นพิเศษคือน้ำเสียงที่ใช้ตอบ มันไม่ลังเล ไม่บอกว่า “ไม่แน่ใจ” ยิ่งเราเชื่อใจโดยไม่ตรวจสอบ ข้อมูลผิดก็ยิ่งไปได้ไกลขึ้น

เคสจริง: ทนายที่อ้างคดีซึ่งไม่มีอยู่จริง

ปี 2023 สตีเวน ชวาร์ตซ์ (Steven Schwartz) ทนายความในนิวยอร์ก ใช้ ChatGPT ค้นคดีอ้างอิงยื่นต่อศาล โดยแท้จริงแล้ว AI แต่งคดีขึ้นมาให้ 6 คดี พร้อมหมายเลขคดีและชื่อผู้พิพากษาที่ดูสมจริงทุกอย่าง แต่ศาลตรวจแล้วพบว่าไม่มีอยู่จริงสักคดี ที่หนักกว่านั้นคือพอศาลสั่งให้เอาเอกสารมาแสดง เขากลับไปถาม ChatGPT ซ้ำว่า “คดีนี้มีจริงไหม” แล้ว AI ก็ยืนยันว่ามีจริง เขาเลยยื่นของปลอมเข้าไปอีกรอบ ผลคือผู้พิพากษา พี. เควิน แคสเทล (P. Kevin Castel) สั่งปรับ 5,000 ดอลลาร์สหรัฐ (ประมาณ 166,000 บาท)

เคสจริง: Air Canada เมื่อ Chatbot พูดผิด แล้วบริษัทต้องรับผิดชอบ

เจค มอฟแฟตต์ (Jake Moffatt) ต้องบินด่วนไปงานศพคุณยาย เขาถาม Chatbot บนเว็บ Air Canada เรื่องส่วนลดกรณีคนในครอบครัวเสียชีวิต Chatbot บอกว่าซื้อตั๋วเต็มราคาไปก่อนแล้วขอคืนส่วนต่างย้อนหลังได้ แต่พอยื่นเรื่องจริง สายการบินปฏิเสธ กุมภาพันธ์ 2024 คณะอนุญาโตตุลาการของรัฐบริติชโคลัมเบียตัดสินให้ Air Canada จ่ายราว 650 ดอลลาร์แคนาดา (ประมาณ 15,000 บาท) สิ่งที่ทำให้คดีนี้ดังไปทั้งโลกคือข้อต่อสู้ของสายการบิน ที่อ้างว่า Chatbot เป็น “นิติบุคคลแยกต่างหาก” ต้องรับผิดชอบตัวเอง ซึ่งโดนปัดตกไปเลย

เคสจริง: “กระเช้าลอยฟ้า” ที่ไม่เคยมีอยู่จริงในมาเลเซีย

ในฐานะที่ติดตามเทคโนโลยีท่องเที่ยวมานาน ผมคิดว่าเคสที่ใกล้ตัววงการเราที่สุด เกิดขึ้นกลางปี 2025 คู่สามีภรรยาสูงวัยชาวมาเลเซียดูคลิปข่าวเรื่อง “Kuak Skyride” กระเช้าลอยฟ้าชมวิวป่าแห่งใหม่ที่รัฐเปรัก คลิปมีครบทั้งผู้ประกาศข่าว รถถ่ายทอดสด และภาพนักท่องเที่ยวเข้าคิวแน่น ทั้งคู่เลยขับรถจากกัวลาลัมเปอร์กว่าสามชั่วโมงไปนั่งกระเช้านั้น พอไปถึง พนักงานโรงแรมบอกว่าที่นี่ “ไม่มีอยู่จริง” เพราะทั้งคลิป ผู้ประกาศ ช่องทีวี และทั้งกระเช้า ถูก AI สร้างขึ้นทั้งหมด

เราเริ่มเรียกสิ่งนี้กันว่า “จุดหมายลวง” (Phantom Destination) และมันคือความเสี่ยงที่จับต้องได้ เพราะคนที่พึ่ง AI วางแผนทริปอาจรับทราบเวลาเปิด-ปิดที่ผิด, เส้นทางเดินป่าที่ปิดไปแล้ว หรือจุดชมวิวที่ไม่มีจริงในพื้นที่ห่างไกล ซึ่งกรณีแย่ที่สุดอาจอันตรายถึงชีวิต

เงามืดที่ 3: อคติของอัลกอริทึม – เมื่อ AI เรียนรู้ด้านมืดของมนุษย์

หลายคนเชื่อว่า AI เป็นกลาง เพราะมันเป็นแค่เครื่องจักรที่ทำงานด้วยตัวเลข แต่ข้อมูลที่ใช้เทรน AI ไม่ใช่เป็นเพียงแค่วัตถุดิบในการเปิดความฉลาดของ AI สู่อนาคต แต่เป็น “กระจก” ที่สะท้อนอดีตของเรากลับมา และอดีตของมนุษย์เต็มไปด้วยอคติที่สะสมมาตลอดประวัติศาสตร์

เคสจริง: ระบบคัดกรองใบสมัครงานของ Amazon ที่กีดกันผู้หญิง

ปี 2014 Amazon เริ่มทำระบบ AI คัดกรองใบสมัครงานอัตโนมัติ หวังจะได้เครื่องมือที่ให้ดาวผู้สมัครได้ เหมือนให้ดาวสินค้าบนเว็บไซต์ แต่ทีมงานมาพบทีหลังว่าระบบให้คะแนนผู้สมัครผู้หญิงต่ำกว่าอย่างเป็นระบบ ถึงขั้นหักคะแนนใบสมัครที่มีคำว่า “women’s” อยู่ในนั้น สาเหตุไม่ได้อยู่ที่โปรแกรมเมอร์ตั้งใจกีดกัน แต่อยู่ที่ AI ถูกเทรนด้วยใบสมัครย้อนหลัง 10 ปี ซึ่งส่วนใหญ่มาจากผู้ชาย มันเลยเรียนรู้ว่าผู้ชายเหมาะกว่า สุดท้าย Amazon ยกเลิกโครงการไปในปี 2017 ก่อนสำนักข่าวรอยเตอร์จะเปิดเผยเรื่องนี้ในเดือนตุลาคม 2018

อีกด้านของอคติคือ “Echo Chamber” หรือห้องเสียงสะท้อน อัลกอริทึมแนะนำเนื้อหาถูกออกแบบมาให้เราอยู่บนแพลตฟอร์มนานที่สุด ผลคือเราเห็นแต่มุมที่ตรงกับความเชื่อตัวเอง ในบริบทท่องเที่ยว มันแปลว่านักท่องเที่ยวถูกป้อนแต่ที่ฮิตซ้ำ ๆ จนเกิด Overtourism ขณะที่แหล่งเล็ก ๆ ที่ไม่มีตัวตนบนโลกดิจิทัลถูกมองข้ามจนเลือนหายไป

เงามืดที่ 4: ความเป็นส่วนตัว – เมื่อความสะดวกแลกมาด้วยการถูกจับตา

ทุกครั้งที่เราใช้บริการ AI ที่ “ฟรี” เราควรถามตัวเองว่าแล้วเราจ่ายด้วยอะไร ถ้าข้อมูลเปรียบเสมือนอาหารที่สำคัญที่สุดของ AI ดังนั้น พฤติกรรม, ความชอบ และตำแหน่งที่อยู่ของเราทุกคน ก็คือวัตถุดิบชั้นดีที่สุดในครัวนั้น และหลายครั้งการเก็บข้อมูลพวกนี้ก็เกิดขึ้นโดยที่เราไม่รู้ตัวด้วยซ้ำ

เคสจริง: Clearview AI กับฐานข้อมูลใบหน้า 30,000 ล้านภาพ

Clearview AI คือบริษัทจดจำใบหน้าสัญชาติอเมริกัน ที่กวาดภาพผู้คนจากโซเชียลมีเดียและเว็บไซต์สาธารณะทั่วโลกกว่า 30,000 ล้านภาพ มาแปลงเป็นรหัสใบหน้า โดยไม่เคยขออนุญาตเจ้าของภาพสักคน แล้วขายบริการค้นหาใบหน้านี้ให้หน่วยงานต่าง ๆ ผลคือโดนฟ้องและโดนปรับในหลายประเทศ กันยายน 2024 หน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์สั่งปรับไป 30.5 ล้านยูโร (ประมาณ 1,170 ล้านบาท) โดยประธานหน่วยงาน พูดไว้ตรง ๆ ว่า “การจดจำใบหน้าเป็นเทคโนโลยีที่ล่วงล้ำอย่างยิ่ง คุณไม่สามารถปล่อยมันออกไปใส่ใครก็ได้ตามใจชอบ”

สำหรับธุรกิจท่องเที่ยว การใช้ AI มา personalize ประสบการณ์เป็นดาบสองคม ด้านหนึ่งช่วยให้เราเสนอบริการที่ตรงใจ แต่ถ้าทำมากไปหรือไม่โปร่งใส ลูกค้าก็จะรู้สึกว่ากำลังถูกสอดส่องแทน ยิ่งวันนี้บ้านเรามี PDPA บังคับใช้แล้ว ธุรกิจที่อยู่รอดระยะยาวจึงเป็นธุรกิจที่ให้ลูกค้าคุมข้อมูลตัวเองได้

แล้วเราจะรับมือกับ Dark AI ได้อย่างไร?

อ่านมาถึงตรงนี้หลายท่านอาจรู้สึกหวั่นใจ แต่เราควรใช้ AI ต่อไป แค่ใช้อย่าง “รู้เท่าทัน” จากทั้งหมดที่เล่ามา ผมขอสรุปเป็นแนวทางง่าย ๆ ไว้ดังนี้

1. สงสัยไว้ก่อนเสมอ  โดยเฉพาะสายที่ขอเงินด่วน ถ้าได้สายจากคนใกล้ตัวที่ขอเงิน ให้วางสายแล้วโทรกลับด้วยเบอร์ที่เรารู้จัก ที่บ้านควรตกลง “คำรหัส” กันไว้ล่วงหน้าสักคำ เพราะ Deepfake ปลอมได้ทุกอย่าง ยกเว้นความทรงจำร่วมกัน

2. เช็กซ้ำเสมอ  อย่าเชื่อคำตอบของ AI 100% โดยเฉพาะเรื่องสุขภาพ, กฎหมาย, การเงิน, ความปลอดภัย รวมถึงที่เที่ยวที่เพิ่งเห็นในคลิปสวย ๆ ลองค้นชื่อนั้นในแผนที่ก่อนออกเดินทาง AI ไม่ใช่ผู้เชี่ยวชาญที่ถูกเสมอ แต่เป็นผู้ช่วยที่เก่งและยังพลาดได้

3. ระวังข้อมูลที่แชร์ออกไป  อ่านนโยบายความเป็นส่วนตัวของแอปที่ใช้ ลดการเปิดเผยภาพและคลิปเสียงตัวเองต่อสาธารณะ และคิดทุกครั้งว่าข้อมูลที่เรากรอกลงไปจะถูกเอาไปทำอะไรบ้าง

4. สำหรับผู้ประกอบการ ใช้ AI อย่างรับผิดชอบ  บทเรียนจาก Air Canada ชัดเจนว่า ถ้าเอา AI มาบริการลูกค้า ต้องมีคนคอยดูแล และรับผิดชอบสิ่งที่ระบบพูดออกไป เพราะสุดท้ายความไว้ใจของลูกค้าคือทรัพย์สินที่มีค่าที่สุด

บทสรุป: เงามืดมีอยู่ เพราะมีแสงสว่าง

ในโลกของ Dark Tourism เราเดินทางไปยังสถานที่ที่ผูกกับความมืดและโศกนาฏกรรม ไม่ใช่เพื่อความสยดสยอง แต่เพื่อเรียนรู้และเข้าใจด้านที่เจ็บปวดของมนุษย์ Dark AI ก็ไม่ต่างกัน ดวงจันทร์ที่เรามองเห็นว่าสวยงาม ก็ยังมีอีกด้านมืดที่หนาวเหน็บ ที่เราอาจไม่สามารถมองเห็นได้ง่าย ๆ 

AI ก็มีด้านสว่างที่เราเห็นว่าจะช่วยเราได้มาก แต่ก็มีด้านมืดที่มองเห็นได้ไม่ง่ายนัก ต้องใช้ความพยายามมากหน่อยในการป้องกัน

เพราะสุดท้ายแล้ว AI ไม่ใช่ทั้งพระเอกและผู้ร้าย มันเป็นแค่เครื่องมือ และเช่นเดียวกับไฟ ดาบ หรือเทคโนโลยีทุกอย่างในประวัติศาสตร์ มันจะเป็นคุณหรือเป็นโทษ ขึ้นอยู่กับมือของคนใช้ คำถามสำคัญที่สุดจึงไม่ใช่ “AI จะทำอะไรกับเรา” แต่คือ “เราจะเลือกใช้ AI อย่างไร” และนั่นคือคำถามที่คำตอบยังอยู่ในมือของเราทุกคนเสมอ