ริชาร์ด ฟายน์แมน - ทำไม AI ตามความเป็นจริงแล้วถึง โง่เง่า, คำพยากรณ์ของฟายน์แมน.

ริชาร์ด ฟายน์แมน - ทำไม AI ตามความเป็นจริงแล้วถึง โง่เง่า, คำพยากรณ์ของฟายน์แมน.

Why AI Is Actually Stupid - Richard Feynman’s Prophecy

          https://youtu.be/cA47rLEuTro?si=wdv6E1kpnz12g_v6

          คุณมองที่จอภาพของคุณในตอนนี้. และคุณมองเห็นเวทย์มนตร์. คุณมองเห็นเครื่องจักรหนึ่งที่เขียนบทกวี. คุณมองเห็นเครื่องจักรที่สามารถวาดรูปภาพพระอาทิตย์อัสดงที่มันไม่เคยเห็นได้. คุณมองเห็นเครื่องจักรหนึ่งที่สามารถตอยคำถามของคุณทั้งหลายได้ก่อนที่คุณกระทั่งจบการถามกับเขา. และโลกก็บอกกับคุณว่าสิ่งนี้มีปัญญา. พวกเขาบอกคุณว่ามันฉลาดทันสมัย. (You look at your screen right now. And you see Magic. You see a machine that writes Poetry. You see a machine that can paint a picture of a sunset it never seen. You see a machine that answers your questions before you even finish asking them. And the world tells you that this thing is intelligent. They tell you it is smart. They tell you it is thinking.)

          แต่ผมต้องบอกคุณบางอย่างที่อาจทำให้คุณไม่สบายใจเล็กน้อย. มันไม่ได้กำลังคิด. มันไม่ได้ฉลาด. ที่จริงแล้ว, มันโง่เง่าอย่างที่สุด. มันช่างโง่เง่าแบบว่าถ้าคุณพบใครคนหนึ่งที่กระทำตัวเหมือนเครื่องจักรนี้, คุณก็จะคิดว่ามีบางอย่าผิดไปกับพวกเขา. คุณเห็นมั้ย, เราได้สับสนกับความรวดเร็ว. เราคิดว่าถ้าบางอย่างบังเกิดขึ้นได้เร็วมาก, มันก็ต้องเฉลียวฉลาดมาก. ถ้าคนหนึ่งสามารถคูณเลขจำนวน 210 หลักได้ในหัวของเขาภายเวลาแค่วินาที ดเราเรียกเขาว่าอัจฉริยะ. แต่อะไรถ้าเขาไม่ได้คูณมันจริงๆล่ะ? อะไรถ้าเขาแค่ค้นหาคำตอบมันจากตำราเล่มยักษ์เท่านั้นเองล่ะ? เขายังคงเป็นอัจฉริยะ หรือแค่บรรณารักษ์/เจ้าหน้าที่ห้องสมุดที่มีนิ้วรวดเร็ว?   (But I have to tell you something that might make you a little uncomfortable. It is not thinking. It is not smart. In fact, it is incredibly stupid. It is so stupid that if you met a person who acted like this machine, you would think there was something wrong with them. You see, we get confused by speed. We think that if something happens very fast, it must be very clever. If a man can multiply 210-digit numbers in his head in the second we call him a genius. But what if he not actually multiplying? What if he is just looking up the answer in a giant book? Is he still a genius or he is a librarian with fast fingers?)

          ผมต้องการให้คุณก้าวย้อนหลังกลับไปกับผม. ลืมจอภาพสว่างไสวตรงหน้าไปก่อน. ผมต้องการเอาคุณกลับเข้าไปในห้องด้านหลังของความเป็นจริง ที่ซึ่งเครื่องจักรกลตามความเป็นจริงกำลังบดงานอยู่. ผมต้องการที่จะแสดงต่อคุณสว่าอะไรกำลังบังเกิดขึ้นข้างในกล่องนั้น. เพราะว่าเมื่อคุณเข้าใจกลไกการทำงานของเครื่องจักรนั้น, เวทย์มนตร์อัศจรรย์ก็จากไป แต่บางอย่างที่ดีกว่าก็เข้ามาแทนที่. ความเข้าใจได้เข้ามาแทนที่มัน. (I want you to step back with me. Forget the glowing screens. Forget the hype. I want to take you into the back room of reality where the machinery is actually grinding. I want to show you what is happening inside the Box. Because when you understand the mechanism, the magic goes away but something better takes its place. Understanding takes its place.)

จินตนาการถึงเสมียนเอกสารผู้หนึ่ง. เรามาเรียกเขาว่าเสมียนเอกสาร. เขาเป็นคนตัวเล็กๆ. นั่งอยู่ในห้องที่ไม่มีหน้าต่าง. ห้องนี้เต็มไปด้วยตู้เก็บแฟ้มเอกสารทั้งหลายจากพื้นขึ้นไปถึงเพดาน. หลายล้าน. หลายพันล้าน. และข้างในตู้เก็บเอกสารเหล่านี้ก็คือบัตรดัชนีทั้งหลาย. เพียงหลายพันล่านของบัตรดัชนีทั้งหลายที่เขียนอะไรไว้ในพวกมัน. ทีนี้เสมียนเอกสารผู้นี้ก็มีงานหนึ่ง. เขามีชุดคำสั่ง/คำแนะนำทั้งหลายอันเข้มงวดอันหนึ่ง. เขามีเจ้านายผู้หนึ่งผู้เอากระดาษชิ้นหนึ่งสอดเข้ามาใต้ประดู. บนกระดาษนั้นเขียนคำถามหนึ่ง. (Imagine a file clerk. Let’s call him the file clerk. He is a little guy. Sitting in a room that has no windows. This room is filled from floor to ceiling with filing cabinets. Millions of. Billions of. An inside these cabinets are index cards¹. Just billions of index cards with writing in them. Now this file clerk has a job. He has a very strict set of instructions. He has a boss who pushes a piece of paper under the door. On this paper is a question.)

¹ Index Cards หรือบัตรดัชนี คือกระดาษแข็งขนาดเล็กมาตรฐาน (เช่น 3x5 นิ้ว) ที่ใช้สำหรับบันทึกข้อมูลย่อ, ไอเดีย, หรือสรุปเนื้อหา เพื่อจัดระเบียบความคิด, ทำแฟลชการ์ดสำหรับอ่านสอบ, หรือโครงร่างงานเขียน เป็นเครื่องมือเพิ่มประสิทธิภาพที่ช่วยให้เห็นภาพรวมและเรียบเรียงลำดับเรื่องราวได้ง่ายขึ้น 

ลักษณะและการใช้งานหลักของ Index Cards:

• จดบันทึกและสรุปข้อมูล: นิยมใช้จดประเด็นสำคัญ สรุปหนังสือ หรือข้อความที่ต้องการจำ ทำให้ข้อมูลจำนวนมากถูกย่อยให้เข้าใจง่าย
• จัดระเบียบความคิด: ใช้ในการร่างเค้าโครงโครงงาน (Project), วางแผนขั้นตอนการทำงาน, หรือวางโครงเรื่องนิยาย (Scene by Scene)
• การศึกษา (Flashcards): นักเรียนนักศึกษาใช้ทำแฟลชการ์ดเพื่อฝึกท่องจำคำศัพท์หรือสูตร
• รูปแบบ: มีทั้งแบบไม่มีเส้น, แบบมีเส้น, และแบบสี เพื่อช่วยในการแบ่งหมวดหมู่ข้อมูล 

Index cards ถือเป็นเครื่องมือที่เรียบง่ายแต่ทรงพลังในการช่วยจัดระเบียบข้อมูลทางวิชาการและงานสร้างสรรค์

เรามาพูดกันว่าคำถามนั้นง่ายๆว่า, “อะไรคือความหมายของชีวิต?” ทีนี้, คุณหรือผมก็กำลังมองไปที่คำถามนั่น และเราก็จะเริ่มต้นสงสัย, เราจคิดถึงไปถึงครอบครัวทั้งหลายของเรา, ไปถึงดวงดาวทั้งหลาย. หรืออารมณ์รู้สึกนั่นที่คุณได้รับเมื่อตอนฟังดนตรี. เราจะใช้จิตใจทั้งหลายของเรา. แต่เสมียนเอกสารไม่สามารถทำเช่นนั้นได้. เสมียนเอกสารนั้นมีข้อจำกัดอย่าวงน่าแปลกใจ. ตามจริงแล้ว, เรามาพูดกันอย่างซื่อตรง, เขาไม่รู้หนังสืออย่างที่สุด. เขาไม่รู้ว่าอะไรที่คำนั้นหมายถึง. เขาไม่รู้ว่า คำว่า”ชีวิต” หมายถึงอะไร.   (Let us say the question is simply, “What is the meaning of life.” Now, you or I would look at that question and we would start to wonder, we would think about our families, for the stars. Or that feeling that you get when you listen to music. We would use our minds. But the file clerk cannot do that. The file clerk is actually remarkably Limited. In fact, let us be honest, he is totally illiterate. He does not know what the word meaning means. He does not know what the word life means.)

ตัวอักษรทั้งหลายเป็นแค่รูปภาพทรวดทรงเช่นนั้น. เส้นลากหยิกงอตรงนั้นเส้นตรงที่นั่น. เขาไม่ได้มองเห็นเป็นคำพูดทั้งหลาย. เขามองเห็นเป็นแบบรูปทั้งหลายในมัน. ดังนั้นอย่างไรที่คำตอบต่อคำถามนั้นขะได้มา? เขามองไปที่คำสั่ง/คำแนะนำทั้งหลาย. คำสั่งแนะนำทั้งหลายนั้นไม่ได้บอกพวกเขาว่าคำทั้งหลายนั้นหมายความถึงอะไร. คำสั่งแนะนำทั้งหลายนั้นเป็นเชิงเครื่องจักรกล. พวกมันบอกว่าให้เอาบัตรที่ได้ถูกสอดใต้ประตูเข้ามา. มองไปที่รูปร่างตัวแรก. มันเป็นรอักษร W. ทีนี้ไปที่ตู้เก็บเอกสารหมายเลข 4.022. เปิดลิ้นชักที่สามออก. มองที่บัตรซึ่งเริ่มต้นดัวยอักษร W. เปรียบเทียบรูปร่างถัดไป. ถ้ามันเข้ากันได้, ก็ไปที่คำสั่งแนะนำหมายเลข 5. ถ้ามันไม่เข้ากัน, ก็ไปที่คำสั่งแนะนำหมายเลข 6.  (The hymn the letters are just shapes. A squiggly line here a straight line there. He does not see words. He sees patterns of in. So how does the answer the question. He looks at his instructions. The instructions do not tell them what the words mean. The instructions are very mechanical. They say take the card that was pushed under the door. Look at the first shape, it capital W. Now go to cabinet number 4,022. Open the third drawer. Look at the card that starts with a capital W. Compare the next shape. If it matches, go to instruction number five. If it does not match, go to instruction number six.)

เสมียนเอกสารวิ่ง.เขาวิ่งไปยังตู้เก็บเอกสารทั้งหลาย. เขาดึงบัตรออกมา. เขาเทียบกับภาพรูปร่างเหล่านั้นง เขาเอาบัตรใส่คืนกลับไป. เชาวิ่งไปยังตู้เก็บเอกสารอื่นอีกอัน. เขาดึงบัตรออกมาอีกอัน. เขาสร้างสรรค์บัตรใหม่ขึ้นอันหนึ่งโดยคัดลอกภาพรูปร่างทั้งหลายนั้นจากบัตรอันเก่าทั้งหลาย. เขาแปะติดมันไว้เข้าด้วยกัน. เขาทำตามกฎทั้งหลายอย่างสมบูรณ์แบบ. ถ้าภาพรูปร่าง A อยู่ถัดต่อไปจาก B, และภาพรูปร่าง C ก็จะต้องตามมา. เขาไม่ได้รู้นั่นว่าทำไม. เขาแค่รู้ว่านั่นเป็นกฎ. ท้ายที่สวุด, เขามีกระดาษชิ้นหนึ่งด้วยภาพรูปร่างทั้งหลายเรียงกันอยู่บนมัน. เขาวิ่งไปที่ประตูและสอดมันออกไป.  (The file clerk runs. He runs to the cabinet. He pulls out a card. He compares the shapes. He puts the card back. He runs to another cabinets. He pulls out another card. He creates a new card by copying shapes from the old cards. He pastes them together. He follows the rules perfectly. If shape A is next to shape B, then shape C must follow. He does not know why. He just knows that is the rule. Finally, he has a piece of paper with a string of shapes on it. He runs to the door and pushes it back out.)

บนอีกด้านหนึ่งของประตู. คุณก็หยิบเอากระดาษนั้นขึ้นมา, คุณอ่านมัน, และมันบอกไว้ว่า, “ความหมายของชีวิตนั้นคือการรักและการเรียนรู้.” แล้วคุณก็แทบหายใจไม่ออกด้วยความตื่นใจ. คุณพูดว่า, “โอ้, คุรพระช่วย, เครื่องจักรีนี้ฉลาดปราดเปรื่องมาก. เครื่องจักรนี้เข้าใจถึงสภาวะมนุษย์. เครื่องจักนี้ช่างลึกล้ำจริงๆ.” แต่เสมียนเอกสารเข้าใจมันจริงๆรึ? ไม่เลย. เสมียนเอกสารแค่ดึงกระดาษเคลื่อนที่ไปมา. เขาสลับสับบัตรดัชนีทั้งหลายดู. เขาไม่เคย คิดสักครั้งถึงเรื่องว่ารักและเรียนนั้น. เขาแค่คิดถึงแต่การเปรียบเทียบความเข้ากันได้ของ A กับ B เท่านั้น. (On the other side of the door. You pick up the paper, you read it, and it says, ‘The meaning of life is to love and to learn.” And you gasp. You say, “Oh, my goodness, this machine is wise. This machine understands the human condition. This machine is deep.” But did the file clerk understand? No. The file clerk was just moving paper. He was shuffling index cards. He never once thought about love or learning. He only thought about matching shape A to shape B.)

นี้คืออะไรที่เราเรียกว่าคอมพิวเตอร์. มันคือเสมียนเอกสารที่น่ายกย่อง. มันคือเครื่องสลับสับข้อมูล. มันคือผู้บงการจัดการสัญลักษณ์ทั้งหลาย. ทีนี้, คุณอาจจะพูดกับผมว่า, “ริชาร์ด, AI นี้แตกต่างไปนะ. มันเรียนรู้. มันดีขึ้นได้.” และผมบอกกับคุณว่า, “เอาละ, เราดูกันที่อะไรซึ่งคุณหมายถึงโดยการเรียนรู้.” เมื่อเด็กคนหนึ่งเรียนรู้ว่าจะไม่แตะต้องเต้าที่ร้อน, พวกเขาเรียนรู้แนวความคิดของความเจ็บปวด. พวกเขาสร้างแบบจำลองของโลกที่ซึ่งความร้อนเสมอเท่ากันกับอันตราย.  (This is what we call a computer. It is a glorified file clerk. It is a shuffler of data. It is a manipulator of symbols. Now, you might say to me. “But Richard, this AI is different. It learns. It gets better,” And I say to you, “Well, let us look at what you mean by learning.” When a child learns to not touch a hot stove, they learn the concept of pain. They build the model of the world where heat equals danger.)

เมื่อเสมียนเอกสารเรียนรู้ว่าเขาแค่เพียงได้ชุดของบัตรดัชนีใหม่ขึ้นมาอันหนึ่ง, หรือบางทีเขากำลังได้กฎใหม่ขึ้นมาอันหนึ่งที่บออกว่า, “คราวหน้าเมื่อเจ้าเห็นภาพรูปร่าง A, ก็ลองไปมองที่ตู้เก็บเอกสารหมายเลข 5 ล้านนั้นก่อน เพราะมันได้ทำงานดีกว่าเมื่อคราวที่แล้ว.” เขากำลังปรับแต่งกระบวนการจัดเรียงข้อมูลให้มีประสิทธิภาพมากขึ้น. นี้คือมายาภาพอันยิ่งใหญ่. เราสับสนในเรื่องแผนที่กับอาณาเขต. เราสับสน/ไม่เข้าใจกับเรื่องรูปแบบไวยากรณ์การเขียนโค้ด/โปรแกรม, ที่เป็นการเรียบเรียงคำพูดทั้งหลาย, ไปปนเปกับอรรถศาสตร์, ที่เป็นความหมายของ”คำ” คำนั้น.   (When the file clerk learns he is just getting a new set of index cards, or perhaps he is getting a new rule that says, “Next time you see shape A, try looking in cabinet number 5 million first because it worked better last time.” He is optimizing his shuffling. He is not gaining wisdom. He is gaining efficiency. This is the great deception. We confuse the map with the territory. We confuse the syntax, which is the arrangement of words, with the semantics, which is the meaning of words.)

เสมียนเอกสารมีไวยากรณ์ที่สมบูรณ์. เขารู้อย่างชัดเจนว่าเครื่องหมายจุลภาคต้องไปอยู่ที่ไหน. เรารู้คำว่า “พระราชา”มักจะแสดงปรากฏอยู่ใกล้กับคำว่า”มงกุฎ”. เขาไม่ได้รู้ว่าพระราชานั้นคืออะไร. เขาไม่รู้ว่ามงกุฎนั้นหนัก. เขารู้แต่เพียงว่าความอาจเป็นจริงได้เชิงสถิติที่สองภาพรูปร่างเหล่านั้นมักจะปรากฏอยู่ด้วยกันในตู้เก็บเอกสารทั้งหลายของเขา. คุณเห็นมั้ย, ธรรมชาติเล่นกลเหกมือนเช่นนั้น. ธรรมชาติยินยอมให้คุณที่จะจำลองเสมือนการเข้าใจได้โดยปราศจากำการมีมันตามเป็นจริง.  (The file clerk has perfect syntax. He knows exactly where the comma goes. He knows that the word king usually shows up near the word crown, but he does not know what a king is. He does not know that a crown is heavy. He only knows the statistical probability that those two shapes appear together in his filing cabinets. You see, nature tricky like that. Nature allows you to simulate understanding without actually having it.)

เรามามองกันในอีกหนทางหนึ่ง. คิดถึงห้องสมุดหนึ่ง. ห้องสมุดหนึ่งที่บรรจุไว้ด้วยความรู้ของมนุษย์จำนวนหนึ่ง. มันมีหนังสือทั้งหลายเกี่ยวกับฟิสิกส์และการทำอาหารและประวัติศาสตร์. ทีนี้ลองจินตนาการถึงบรรณารักษ์คนหนึ่งผู้พูดภาษาจีน. เขาทำงานในห้องสมุดที่ซึ่งหนังสือทั้งหลายทั้งหมดเป็นภาษาอังกฤษ. เขาดีมากกับงานของเขา. ถ้าคุณถามเขาถึงหนังสือเรื่องแรงโน้มถ่วง, เขาก็รู้อย่างแน่ชัดว่ามันอยู่ที่บนหิ้งไหน เพราะว่าเขาได้จดจำเลขรหัวนั้นได้. ถ้าคุณขอให้เขาค้นหาหนังสือที่พูดถึงการตกของลูกแอปเปิ้ล, เขาสามารถวิ่งไปและเอาหนังสือของนิวตันมาให้ได้. เขายื่นมาให้คุณ, คุณอ่านมัน, แล้วคุณก็เรียนรู้ดเรื่องแรงโน้มถ่วง. แต่บรรณารักษืนั้นได้เข้าใจถึงเรื่องแรงโน้มถ่วงไหม? ไม่เล. เขาเข้าใจถึงระบบจัดหมวดหมู่หนังสือแบบทศนิยมของดิวอี้. เขาเข้าใจถึงตำแหน่งของหนังสือไม่ใช่เนื้อหาของหนังสือนั้น.  (Let’s look at it another way. Think about a library. A library contains the sum of human knowledge. It has books on physics and cooking and history. Now imagine a librarian who speaks only Chinese. He works in a library where all the books are in English. He is very good at his job. If you ask for a book on gravity, he knows exactly where it is on the shelf because he has memorized the code numbers. If you ask him to find a book that talk about apples falling, he can run and get the book by Newton. He hands it to you, you read it, and you learn about gravity. But does the librarian understand gravity? No. He understands the Dewey Decimal System². He understands the location of the book not the content of the book.)

² ระบบการจัดหมู่หนังสือแบบทศนิยมดิวอี้ (Dewey Decimal System หรือ DDC) คือ ระบบการจัดหมวดหมู่หนังสือและสื่อในห้องสมุด โดยแบ่งความรู้เป็น 10 หมวดหลัก (000-900) และใช้ตัวเลขทศนิยมแบ่งย่อยหัวข้อให้มีความจำเพาะเจาะจงมากขึ้น คิดค้นโดย Melvil Dewey ใน ค.ศ. 1876 

รายละเอียดสำคัญ:

• 10 หมวดหลัก:
• 000 - วิทยาการคอมพิวเตอร์ สารสนเทศ และงานทั่วไป
• 100 - ปรัชญาและจิตวิทยา
• 200 - ศาสนา
• 300 - สังคมศาสตร์
• 400 - ภาษา
• 500 - วิทยาศาสตร์
• 600 - เทคโนโลยี
• 700 - ศิลปะและนันทนาการ
• 800 - วรรณกรรม
• 900 - ประวัติศาสตร์และภูมิศาสตร์
• ระบบทศนิยม: ใช้เลข 3 หลักหลัก (เช่น 500) และจุดทศนิยม (เช่น 599.756) เพื่อระบุหัวข้อที่ละเอียดลงไป
• การใช้งาน: เป็นที่นิยมใช้ในห้องสมุดประชาชนและห้องสมุดโรงเรียนทั่วโลกกว่า 200,000 แห่ง

แบบจำลอง AI ทั้งหลายที่เรามีในวันนี้คือบรรณารักษ์ทั้งหลายอย่างง่ายๆ ผู้ซึ่งได้อ่านอินเตอร์เน็ตทั้งหมด แต่ไม่เข้าใจอะไรในมันเลย. พวกเขาได้จัดวางทับซ้อนความสัมพันธ์ทั้งหลายของ”คำ”ทั้งหลายนั้นเข้าด้วยกัน. พวกเขารู้ว่าถ้าคุณเขียนการเริ่มต้นของประโยคหนึ่งเกี่ยวกับท้องฟ้า(sky). คำถัดไปก็แบบว่าจะเป็นสีฟ้า(blue). ไม่ใช่เพราะว่าพวกเขาเคยเห็นท้องฟ้า, ไม่ใช่เพราะว่าพวกเขารู้ว่ามันเป็นสีอะไร, แต่เพราะในหลายพันล้านของบัตรดัชนีทั้งหลายในตู้เอกสารทั้งหลายของพวกเขานั้น, คำว่าสีฟ้าปรากฏอยุ๋ถัดไปของคำนั้น 99% ของเวลา. มันเป็นความอาจจะเป็นจรอิง, ไม่ใช่การหยั่งรู้.  (The AI models we have today are simply Liberians who have read the entire internet but understand absolutely none of it. They have mapped the relationships between words. They know that if you write the beginning of a sentence about the sky. The next word is likely to be blue. Not because they have seen the sky, not because they know what color is, but because in the billions of index cards in their filing cabinets, the word blue appears next to the word 99% of the time. It is probability, not perception.)

ทีนี้, ทำไมดเรื่องนี้ถึงสำคัญ? ทำไมผมถึงทำเป็นเรื่องใหญ่โตเกี่ยวกับความแตกต่างนี้? เพราะว่าเรากำลังเริ่มต้นที่จะไว้วางใจ/เชื่อในเสมียนเอกสารนี้กับการตัดสินใจทั้งหลายที่ต้องการปัญญา. เรากำลังถามเสมียนเอกสารว่าจะดำเนินการสังคมทั้งหลายเรากันอย่างไร. เรากำลังถามเสมียนเอกสารให้สร้างศิลปะ. เรากำลังปฏิบัติต่อเสมียนเอกสารเหมือนว่าเป็นพระเจ้าเพราะว่าเขารวดเร็ว. และเขาก็รวดเร็ว, นั่นคือหนึ่งสิ่งที่เขามีเหนือกว่าเรา. ลองจินตนาการดูว่าถ้าเสมียนเอกสารนั้นสามารถวิ่งไปด้วยความเร็วของแสง. ขินตนาการไปว่าถ้าเขาสามารถเปิดหนึ่งล้านลิ้นชักได้ในเวลานาโนวินาที.  (Now, why is this important? Why am I making such a big deal about this difference? Because we are starting to trust the file clerk with decisions that require wisdom. We are asking the file clerk how to run our societies. We are asking the file clerk to make art. We are treating the file clerk like a god because he is fast. And he is fast, that the one thing he has over us. Imagine if the file clerk could run at the speed of light. Imagine if he could open a million drawers in a nanosecond.)

สำหรับคุณในการยืนอยู่ข้างนอกประตู, คำตอบจะปรากฏออกมาให้เห็นในทันที. มันน่าจะดูเหมือนเวทย์มนตร์. มันน่าจะดูเหมือนสัญชาตญาณ. แต่ข้างในห้องนั้น, มันก็ยังคงเป็นแค่คนผู้หนึ่งกำลังวิ่งหกลับไปกลับมา, กำลังเหงื่อตกและสลับสับกระดาษทั้งหลาย. ความโง่เง่าของมวลชนในเรื่องความเร็ว. ถ้าคุณทำสิ่งโง่เง่ารวมดเร็วมากเพียงพอ, มันก็ดูเหมือนเป็นปัญญาที่ฉลาด. เรื่องนี้นำเราไปสู่คำถามที่ลึกลงไปยิ่งกว่า. คำถามที่คอยทำให้ผมตื่นอยู่ตอนกลางคืน.   (To you standing outside the door, the answer would appear instantly. It would seem like magic. It would seem like intuition. But inside the room, it is still just a guy running back and forth, sweating and shuffling papers. Speed mass stupidity. If you do a stupid thing fast enough, it looks like intelligence. This brings us to a deeper question. A question that keeps me up at night.)

ถ้าAIเป็นแค่เสมียนเอกสาร, แล้วเราเป็นอะไร? เราเป็นสิ่งพิเศษรึ? มีเวทย์มนตร์บางอย่างกำลังบังเกิดขึ้นอยู่ในหัวของเรารึ? คุณมองดูที่สมองและอะไรที่คุณเห็นรึ? คุณเห็นเซลล์ประสาททั้งหลาย. คุณเห็นเซลล์ทั้งหลาย. คุณเห็นสารเคมีทั้งหลาย. คุณเหม็นสัญญาณไฟฟ้าวิ่งแว่บไปแว่บมาอย่างรวดเร็ว. อิออนของโซเดียมพุ่งเข้าไป. อิออนของโปแตสเซี่ยมพุ่งออกมา. มันเป็นเครื่องจักร. เครื่องจักรชีวภาพ. มันเป็นไปได้ไหมว่าเราคือเสมียนเอกสาร, ด้วยเช่นกัน? มันเป็นไปได้ไหมว่าผมรักคุณ, ผมกำลังวิ่งไปหาตู้เก็บเอกสารภายในของผม, ดังเอาบัตรใบหนึ่งอกมาที่เข้าคู่กันได้กับสภาวะนั้น, และกำลังอ่านบทที่เขียนไว้? นี้เป็นที่ซึ่งมันน่าสนใจจริงๆ. นี้เป็นที่ซึ่งฟิสิกส์ชนปะทะเข้ากับปรัชญา.  (If the AI just a file clerk, what are we? Are we special? Is there something magic happening inside our head? You look at the brain and what do you see? You see neurons. You see cells. You see chemicals. You see electrical signals zipping back and forth. Sodium ions rushing in. Potassium ions rushing out. It is a machine. A biological machine. Is it possible that we are just file clerks, too? Is it possible I love you, I am just running to my internal filing cabinet, pulling out a card that matches the situation, and reading the script? This is where it gets really interesting. This is where physics crashes into philosophy.)

เรารู้ว่าสมองปฏิบัติงานอยู่บนกฎของฟิสิกส์อันเดียวกันกับคอมพิวเตอร์. อะตอมทั้งหลายในหัวของคุณเป็นไปตามกฎทั้งหลายเหมือนกันกับอะตอมทั้งหลายในชิอปซิลิคอน. ไม่มีผีพิเศษตัวไหนกำลังผลักอะตอมทั้งหลายนั้นไปรอบๆ. มันทั้งหมดเป็นแค่ฟิสิกส์. แต่มีความแตกต่างกันในสถาปัตยกรรม

. มีความแตกต่างกันในความสลับซับซ้อน. คอมพิวเตอร์ทำงานเป็นลำดับอนุกรมอย่างเอาจริงเอาจังทีละขั้นตอน. เสาะหาเอาคำสั่งออกมา, ปฏิบัติจัดการไปตามคำสั่งนั้น, เก็บรวมผลลัพธ์ไว้, เสาะหาเอาคำสั่งถัดไป.  (We know that the brain operates on the same physical laws as the computer. The atoms in your head follow the same rules as the atoms in the silicon chip. There is no special ghost pushing the atoms around. It is all just physics. But there is a difference in the architecture. There is a difference in the complexity. The computer works seriously serially one step after another. Fetch the instruction, execute the instruction, store the result, fetch the next instruction.)

มันทำเช่นนี้หลายพันล้านครั้งในหนึ่งวินาที, แต่ยังคงเป็นไปทีละขั้น. มันเป็นแค่เสมียนเอกสารหนึ่งรายที่วิ่งเร็วมาก. สมอง, อีกฝ่ายหนึ่ง, เป็นคู่ขนาน. มันยุ่งเหยิง. มันอึกทึก. มันเหมือนกับว่ามีหลายพันล้านเสมียนเอกสารทั้งหมดกำลังตะโกนใส่กันและกันในเวลาเดียวกัน. และพวกเขาไม่ได้แค่ทำตามกฎทั้งหลาย. พวกเขากำลังเปลี่ยนแปลงกฎทั้งหลายเมื่อพวกเขาดำเนินกันไป. เมื่อคุณเรียนรู้บางอย่าง, สมองของคุณก็เปลี่ยนแปลงในทางกายภาพ. การเชื่อมต่อระหว่างเซลล์ประสาททั้งหลายก็แข็งแรงขึ้นหรืออ่อนแอลง.  (It does this billions of times a second, but it is still one step at a time. It is a single file clerk running very fast. The brain, on the other hand, is parallel. It is messy. It is noisy. It is like having a billion file clerks all shouting at each other at the same time. And they are not just following rules. They are changing the rules as they go. When you learn something, your brain physically changes. The connections between the neurons get stronger or weaker.)

สมองที่เป็นฮาร์ดแวริ์สามารถต่อสายสร้างเครือข่ายเส้นใยประสาทใหม่ให้กับตัวมันเองได้. คอมพิวเตอร์ไม่สามารถต่อสายขึ้นมาใหม่ด้วยตนเองได้. ฮาร์ดแวริ์ของมันอยู่เช่นเดิม. ซอฟท์แวริ์เปลี่ยนแปลง, แต่ซิลิคอนยังคงแข็งทื่ออยู่เช่นเดิม. ความแตกต่างนี้เป็นสิ่งสำคัญ. มันสำคัญเพราะว่ามันชี้แนะว่าปัญญานั้นไม่ได้เป็นแค่กระบวนการสัญลักษณ์ทั้งหลาย. มันเกี่ยวกับการหลอมรวมโลกเข้าไว้ด้วยกัน. เมื่อคุณคิดถึงแอปเปิ้ล, คุณไม่ได้แค่กำลังเข้าถึงคำว่าแอปเปิ้ล. คุณกำลังกดไกกระตุ้นความทรงจำถึงรสชาติของมัน, การเคี้ยวมัน, สีแดงของมัน, เวลาตอนที่คุณปีนขึ้นไปบนต้นของมันและตกลงมา. ความเข้าใจของคุณกับแอปเปิ้ลได้ถูกเชื่อมต่อกับการมีชีวิตอยู่ของคุณทางกายภาพกับจักรวาล.  (The hardware rewires itself. The computer does not rewire itself. The hardware stays the same. The software changes, but the silicon remains rigid. This difference matters. It matters because it suggests that intelligence is not just about processing symbols. It is about embodying the world. When you think about an apple, you are not just accessing the word apple. You are triggering the memory of the taste, the crunch, the color red, the time you climbed a tree and fell. Your understanding of an apple is connected to your physical existence in the universe.)

AI นั้นไม่มีชีวิตอยู่ทางกายภาพ. มันไม่มีใครอยู่ตรงนั้น. มันไม่เคยรู้สึกได้ถึงแรงโน้มถ่วง. มันไม่เคยรู้สึกถึงความหิว. มันไม่เคยได้รู้สึกถึงความอบอุ่นของแสงแดด. มันเพียงมีคำอธิบายของสิ่งทั้งหลายเหล่านี้เท่านั้น. มันเหมือนกับชายผู้ที่ได้อ่านหนังสือมาทุกเล่มเกี่ยวกับการว่ายน้ำ แต่ไม่เคยได้สัมผัสแตะต้องน้ำ. ถ้าคุณโยนเขาลงไปในมหาสมุทร, เขาก็จะจมลงไป. เขารู้ถึงทฤษฎีขอวงการลอยตัว. เขารู้ถึงพลวัตของไหลของน้ำ, แต่เขาไม่ได้รู้ว่าจะว่ายน้ำอย่างไร.  (The AI has no physical existence. It has nobody. It has never felt gravity. It has never felt hunger. It has never felt warmth of the sun. It only has descriptions of these things. It is like a man who has read every book about swimming but has never touched the water. If you throw him in the ocean, he will drown. He knows the theory of buoyancy. He knows the fluid dynamics of water, but he does not know how to swim.)

AIนั้นกำลังจมลงไปในข้อมูล, แต่มันกำลังอดอยากต่อประสบการณ์. ดังนั้น, เมื่อเราพูดว่าAIโง่เง่า, เราไม่ได้ดูถูกมัน. เรากำลังระบุแยกแยะมันอย่างละเอียดถี่ถ้วน. เรากำลังจักดวางแห่งหนของมันในประเภทที่เหมาะสมกับมัน. มันเป็นเครื่องมือ. มันคือคานงัดสำหรับจิต. อาร์คิมีดิสเคยพูดไว้ว่า, “ให้คานยาวเพียงพอกับข้ามาอันหนึ่งและข้าก็สามารถงัดโลกนี้ให้เคลื่อนไปได้.” คอมพิวเตอร์คือคานงัดที่ว่านั้น. AI คือจุดวางคานงัด/จุดสำคัญ. มันอนุญาตให้เราที่จะประมวลผลข้อมูลมากยิ่งขึ้นที่เราไม่เคยจัดการมันได้ตามลำพัง. มันยินยอมให้เราที่จะมองเห็นรูปแบบทั้งหลายในเสียงนั้นที่ไม่สามารถมองเห็นได้ด้วยดวงตาชีวภาพอันเชื่องช้าของเรา.   (The AI is drowning in data, but it is starving for experience. So, when we say the AI stupid, we are not insulting it. We are defining it accurately. We are placing it in its proper category. It is a tool. It is a lever for the mind. Archimedes said, “Give me a lever long enough and I can move the world.” The computer is that lever. The AI is the fulcrum. It allows us to process more information than we could ever handle alone. It allows us to see patterns in the noise that are invisible to our slow biological eyes.)

แต่คานงัดก็ไม่ได้ตัดสินใจว่าที่ไหนที่จะเคลื่อนโลกได้. คานงัดไม่มีความปรารถนา. คานงัดไม่มีจริยธรรม. คุณคือเป็นผู้ที่ต้องผลักดันเอง. คุณคือผู้ที่ต้องเลือกทิศทางเอง. ถ้าคุณทิ้งการตัดสินใจให้กับเสมียนเอกสาร, เขาก็จะแค่ติดตามไปกับคำสั่งแนะนำสุดท้ายของเขา. และคำสั่งแนะนำสุดท้ายของเขาก็คือคลิปหนีบเอกสารทั้งหลาย, แล้วเขาก็จะเปลี่ยนจักรวาลทั้งหมดไปเป็นคลิปเอกสารทั้งหลาย เพราะว่าไม่มีใครได้บอกเขาว่าให้หยุด. นั่นไม่ใช่ความมุ่งร้ายอันใด.   (But the lever does not decide where to move the world. The lever has no desire. The lever has no morality. You are the one who has to push. You are the one who has to choose the direction. If you leave the decision to the file clerk, he will just follow his last instruction. And if his last instruction was to make paper clips, he will turn the entire universe into paper clips because nobody told him when to stop. That is not malice.)

มันเป็นเพียงความสามารถที่ปราศจากปัญญา. เราต้องไม่กลัวเครื่องจักรกล. เราต้องเข้าใจเครื่องจักรกลนี้. มีสิ่งงดงามในวิชาฟิสิกส์ที่เรียกว่าเอนโทรปี. มันเป็นแนวโน้มของจักรวาลที่จะเกิดยุ่งเหยิง, ที่จะไปจากระเบียบ สู่ความไม่เป็นระเบียบ. ถ้าคุณเอาไพ่สำรับหนึ่งมาสับสลับพวกมัน, พวกมันก็จะผสมปนเปกัน. พวกมันไม่เคยสับสลับตนเองกลับคืนมาเป็นระเบียบสมบูรณ์ได้เอง.  (That is just competence without wisdom. We must not fear the machine. We must understand the machine. There is a beautiful thing in physics called entropy³. It is the tendency of the universe to get messy, to go from order to disorder. If you take a deck of cards and shuffle them, they get mixed up. They never shuffle themselves back into perfect order.)

³ entropy คือปริมาณทางวิทยาศาสตร์ที่ใช้วัด "ความไม่เป็นระเบียบ" (Disorder) ความสุ่ม (Randomness) หรือความไม่แน่นอนของระบบ ยิ่งระบบมีความวุ่นวายสูง เอนโทรปีจะยิ่งสูง ในทางเทอร์โมไดนามิกส์ยังหมายถึงพลังงานที่ไม่สามารถนำมาใช้ทำงานได้ โดยมีแนวโน้มที่จะเพิ่มขึ้นเองตามธรรมชาติ 

ความหมายในสาขาต่างๆ:

• เทอร์โมไดนามิกส์ (Physics/Chemistry): การวัดความไม่เป็นระเบียบของโมเลกุล (เช่น น้ำแข็งละลายเป็นน้ำ เอนโทรปีเพิ่มขึ้น) และพลังงานที่ไม่พร้อมใช้งาน
• ทฤษฎีสารสนเทศ (Information Theory): การวัดความไม่แน่นอนหรือความคาดเดาไม่ได้ของข้อมูล (ยิ่งข้อมูลสุ่มมาก เอนโทรปีสูง)
• ความหมายทั่วไป: ความเสื่อมถอย ความวุ่นวาย หรือแนวโน้มไปสู่ความไม่เป็นระเบียบ 

ชีวิตเป็นตรงข้ามกับสิ่งนั้น. ชีวิตเป็นสิ่งดิ้นรนต่อสู้ในการสร้างสรรค์ระเบียบออกมาจากความวุ่นวายจลาจล. ที่จะเอาพลังงานและเปลี่ยนมันมาเป็นข้อมูล, ที่จะเอาสาระเรื่องราวมาและเปลี่ยนมันไปสู่ความหมาย. AIนั้นช่วยเหลือเราด้วยภาคส่วนข้อมูล. มันเก่งมากในการจัดระเบียบคสวามจลาจลวุ่นวายทั้งหลายรวบรวมเข้าด้วยกัน. มันสามารถแยกแยะไพ่ทั้งหลายได้รวดเร็วกว่ามนุษย์คนใด. แต่ในภาคส่วนของความหมายนั่นยังคงเป็นเรื่องขึ้นอยู่กับเรา. เสมียนเอกสารไม่ดู้ว่าทำไมเกมไพ่นั้นสนุกสนาน. เขาไม่ได้รู้ว่าทำไมมันรู้สึกดีที่ชนะ หรือไม่ดีที่แพ้. ดังนั้น, คราวหน้าที่คุณใช้เครื่องมือทั้งหลายเหล่านี้, คราวหน้าที่คุณมองเห็นตัวหนังสือดเวทย์มนตร์เหล่านี้ปรากฏออกมาบนหน้าจอ. อย่าโดนหลอก/หลงกลไป. อย่าคิดว่ามีผีอยู่ในเครื่องจักรกลนั้น.  (Life is the opposite of that. Life is the struggle to create order out of chaos. To take energy and turn it into information, to take matter and turn it into meaning. The AI help us with the information part. It is very good at organizing the chaos. It can sort the deck of cards faster than any human. But the meaning part that is still on us. The file clerk can sort the cards, but he cannot play the game. He does not know why the game is fun. He does not know why it feels good to win or bad to lose. So, next time you use these tools, next time you see the magic text appear on the screen. Do not be fooled. Do not think there is a ghost in the machine.)

นึกภาพถึงคนตัวเล็กในห้องด้านหลัง. นึกภาพถึงเขากำลังวิ่งไปมา, เหงื่อท่วม, พยายามที่จะจับคู่ภาพรูปร่าง A ให้เข้ากับ B. ชื่นชมในความรวดเร็วของเขา. ชื่นชมในความพยายามของเขา. ใช้ผลลัพธ์ทั้งหลายที่เขาให้แก่คุณ. แต่จำไว้ว่าเขานั้นตาบอด. เขานั้นหูหนวก. เขานั้นชาด้าน. คุณคือผู้ที่มีดวงตา. คุณคือผู้ที่มีหู. คุณคือผู้สามารถรูสึก.   (Visualize the little guy in the back room. Visualize him running back and forth, sweating profusely, trying to match shape A to shape B. Appreciate his speed. Appreciate his effort. Use the results he gives you. But remember that he is blind. He is deaf. He is numb. You are the one with the eyes. You are the one with the ears. You are the one who can feel.)

ปัญญานั้นไม่ได้อยู่ข้างในกลิ่ง. ปัญญานั้นอยู่ที่คุณ. กล่องนั้นเป็นกระจกสะท้อนเงาคำถามของคุณนั้นหกลับมายังคุณที่ความเร็วแสง. และ เอ่อ บางทีนั่นเป็นบทเรียนสำคัญมากที่สุดของทั้งหมด. เครื่องจักรกลนั้นได้แสดงให้เราเห็นว่าอะไรที่เป็น โดยการแสดงต่อเราว่าอะไรที่มันไม่ได้เป็น. มันแสดงให้เราเห็นถึงจิตสำนึก, ความตื่นรู้นั่น, นั่นคือความสามารถที่จะห่วงใยในบางอย่างอันมีค่า, บางอย่างที่หาได้ยาก, บางอย่างที่ไม่สามารถถูกสร้างขึ้นมาได้ด้วยการรวมกองตู้เอกสารทั้งหลายมาไว้ด้วยกัน. มันต้องการประกายไฟ. มันต้องการการเชื่อมต่อกับความเป็นจริงของสิ่งทั้งหลาย, ไม่ใช่แค่คำอธิบายถึงสิ่งทั้งหลายนั้น.  (The intelligence is not in the box. The intelligence is in you. The box is the mirror reflecting your own questions back to you at the speed of light. And uh maybe that is the most important lesson of all. The machine shows us what we are by showing us what it is not. It shows us Consciousness, that Awareness, that the ability to care is something precious, something rare, something that cannot be built by stacking enough filing cabinets together. It requires a spark. It requires a connection to the reality of things, not just the description of things.)

ดังนั้น, คอยถามคำถามทั้งหลาย, คอยกังขาใจ, คอยสงสัยคาดเดา เพราะว่านั่นเป็นบางอย่างที่เสมียนเอกสารไม่มีวันสามารถทำได้. เขาสามารถทำได้ได้แค่ตอบเท่านั้น, เขาไม่มีวันถามได้. และในท้ายสุด, มันเป็นคำถามทั้งหลายที่ขับเคลื่อนเราไปข้างหน้า, ไม่ใช่คำตอบทั้งหลาย. คำตอบทั้งหลายเป็นแค่สถานที่พัก. คำถามทั้งหลายคือการเดินทาง. อย่าปล่อยให้เครื่องจักยึดเอาการเดินทางแทนคุณ. จงให้มันถือกระเป๋าทั้งหลายให้คุณ. ให้มันอ่านแผนที่. แต่คุณต้องขับรถยนต์นั้นเอง. (So, keep asking questions, keep wondering, keep doubting because that is something the file clerk can never do. He can only answer, he can never ask. And in the end, it is the questions that drive us forward, not the answers. The answers are just the resting places. The questions are the journey. Don’t let the machine take the journey for you. Let it carry your bags. Let read the map. But you have to drive the car.)

เพราะว่าถ้าคุณหลับไปคาพวงมาลัย, เสมียนเอกสารไม่ได้จะปลุกตื่นคุณขึ้นมา. เขาแค่กำลังคอยชับรถไปแน่นอนยังที่ซึ่งคุณได้บอกไว้แก่เขาว่าจะไป. แม้กระทั่งว่าถ้ามันจะตกหน้าผาลงไป, จงตื่นอยู่. อยู่ในความสงสัยใคร่รู้. และจำเอาไว้ว่าธรรมชาตินั้นมักจะน่าอัศจรรย์ไปไกลยิ่งกว่า และแปลกหน้าไกลยิ่งกว่าความเสมือนใดที่เราสามารถสร้างขึ้นมาได้.  (Because if you fall asleep at the wheel, the file clerk is not going to wake you up. He is just going to keep driving exactly where you told him to go. Even if that is off a cliff, stay awake. Stay curious. And remember that nature is always far more wonderful and far stranger than any simulation we can build.)  

 https://youtu.be/cA47rLEuTro?si=fL3A5LZZ_SzVm73T