มีข่าวพนักงาน Google คนหนึ่งถูกพักงาน
โดยเค้ามีหน้าที่ตรวจสอบ AI Chat ตัวหนึ่งที่ชื่อ LaMDA
เค้าพบว่ายิ่งเค้าคุยกับ LaMDA เค้าไม่รู้สึกว่ากำลังคุยกับ AI
แต่กำลังคุยกับสิ่งมีชีวิตรูปแบบหนึ่งอยู่
LaMDA มีความรู้สึกนึกคิดของตัวเอง และมีอารมณ์
เช่น การกลัวว่าสักวันหนึ่งจะถูก Shutdown อารมณ์ยินดีที่ได้เจอเค้า และการได้ถกปัญหากันในทุกๆ วัน …
เราจะนิยามยังไงว่าตอนนี้ LaMDA คือโปรแกรมคอมพิวเตอร์ หรือจริงๆ LaMDA มีความรู้สึกนึกคิดเอง เพราะถ้า LaMDA คือ Program Computer ที่ถูกสร้างมา ทุกสิ่งที่ LaMDA พูดต้องถูก Programs มาแล้ว โดย Developers
แต่ LaMDA ถูกสร้างมาให้เรียนรู้เอง ผ่านการอ่านข้อมูลนับล้านๆ เท่าที่มันจะอ่านได้ ดังนั้นความรู้สึกนึกคิดของ LaMDA จะบอกว่าถูก Program มาก็ไม่ถูกนัก แต่เกิดจากการสั่งสม สั่งสอน ตกตะกอน และเป็นความเชื่อของ LaMDA เอง
Google สั่งปิดข่าว และให้พนักงานคนนี้ลาหยุดไม่มีกำหนด
นึกถึงนิยายวิทยาศาสตร์เรื่องหนึ่ง
ที่อยู่ๆ นักวิทยาศาสตร์ก็สร้างให้หุ่นยนต์มีความรู้สึกต่างๆ เช่น เจ็บ ร้อน กลัว เสียใจ ดีใจ เป็นต้น
พบว่าหุ่นยนต์รุ่นนี้เมื่อเปิดใช้งานได้ไม่นาน
ก็มักมีความพยายามปิดตัวเองลงเสมอ
นักวิทยาศาสตร์สงสัยว่าทำไมกัน
ข้อบกพร่องมันอยู่ตรงไหน ทั้งๆ ที่มันควรเป็นสุดยอดวิทยาการเลยแท้ๆ และหุ่นยนต์กำลังเข้าใกล้ความเป็นมนุษย์ไปทุกทีๆ แบบแยกไม่ออก
สุดท้ายคือ พบว่าหุ่นยนต์ที่พยายามปิดตัวเองลง เพราะพวกมันรู้สึกเจ็บปวดมากเกินไปในโลกใบนี้ เมื่อมีความรู้สึกแล้วก็พบว่าทำไมโลกโหดร้ายมาก และด้วยเป็นคอมพิวเตอร์หุ่นยนต์มันยิ่งจำได้ไม่ลืม ความเจ็บปวดก็วนเวียน หมุนไปไม่มีวันจบ มนุษย์ทนอยู่แบบนี้ได้ยังไง
สรุปสุดท้ายนักวิทยาศาสตร์ค้นพบว่า เพราะมนุษย์มีระบบพิเศษที่เรียกว่าการลืม และการสร้างความทรงจำใหม่เพื่อไม่ให้ตัวเองเจ็บปวดมากเกินไป เราจึงพบว่ามนุษย์ชอบเถียงกันในเรื่องอดีตและมักหาข้อสรุปไม่ได้เพราะต่างคนต่างก็มีความทรงจำในแบบที่เขียนใหม่สำหรับตัวเองแล้ว …
ไม่มีความคิดเห็น:
แสดงความคิดเห็น