โรเจอร์ เพนโรส - อะไรคือ จิตสำนึก?
Roger Penrose
- What is Consciousness?
https://youtu.be/CdjHRA7fV10?si=guDkfGSdvHQvW2Xf
บทนำ: ทำไมนักฟิสิกส์คนหนึ่งศึกษาเรื่อง จิต* โรเจอร์ เพนโรสแบ่งปันความหลงใหลเริ่มแรกด้วย จิตสำนึก และความทะเยอทะยานลับๆของเขาของการกลายเป็นศัลแพทย์สมอง. (Introduction: Why a Physicist Studies the Mind* Roger
Penrose shares his early fascination with consciousness and his secret ambition
of becoming a brain surgeon.)
พิธีกร: โรเจอร์, อะไรคือมันเกี่ยวกับจิตสำนึกที่กระแทกจคุณ
เป็นเช่นฟิสิกส์คณิตศาสตร์ ที่ไปเข้าสู่พื้นที่ซึ่งคุณไม่เคยได้อยู่ในนั้นมาก่อน? (Roger, what is it about
Consciousness that attracted you as a mathematical physicist to go into area
that you hadn’t been in before?)
โรเจอร์ เพนโรส: เออาละ, ผมคิดว่าความสนใจของผมในพื้นที่ด้านนี้ได้มาทางนี้ก่อนที่ผมและบิดาของผมจะมีความสนใจขนาดโตในประเด็นทั้งหลายเหล่านี้
และ เอ่อ เขากลายเป็น เอ่อ สนใจอย่างมืออาชีพ, เขาได้สนใจในเรื่องการถ่ายทอดของโรคทางจิต
เอ่อ แต่ เราได้เคยถกเถียงกันเกี่ยวกับว่า จิตสำนึกสามารถกระทำการเชิงประมวลผลได้หรือไม่,
เรา, มันเป็นอะไรประเภทของสิงที่ผคนได้กำลังสนใจกัน. ที่จริงแล้ว, อย่างลับๆ
ที่เวทีหนึ่งของชีวิตของผม, ผมได้อย่างลับๆต้องการจะเป็นศัลยแพทย์สมอง, ดังนั้น
ผมก็จะพเปิดสมองออกมา และดูว่ามันได้ทำงานยังไง, ที่ซึ่งไม่ได้เคยใช้การได้. (Well,
I think my interest in this area came way before that I my father had a big
interest in these issues and uh he became uh interested professionally he was
interested in the inheritance of mental disease uh but we used to have
discussions about whether Consciousness could be computational activity, we, it was the kind of thing that people
were getting interested in in fact secretly at one stage of my life I was
secretly wanting to be a brain surgeon, so I open the brains up and see what
how it worked, which never quite worked out.)
แรงกระทบทฤษฎีของเกอเดิล*
เพนโรส อธิบายถึงอย่างไรที่ครั้งแรกซึ่งตรรกะคณิตศาสตร์ได้ทำให้เดขาปักใจว่า
ความเข้าใจของมนุษย์นั้นเหนือกว่าการประมวลผลทั้งหลาย. (The Impact of Gurdel’s Theorem* Penrose
explains how mathematical logic first convinced him that human understanding
transcends mere computation.)
แต่ เอ่อ มันได้เป็นจริงๆในภายหลัง เมื่อ, ยังคงการคิดว่าบางทีเราทั้งหมดเป็นคอมพิวเตอร์
หรืออะไรบางอย่าง เอ้อ ผมได้สนใจใน, ทฤษฎีของเกอเดิล, นี้เมื่อตอนที่ผมเป็นนักศึกษาปริญญาตรีสาขาคณิตศาสตร์อยู่ที่
ลอนดอน, มหาวิทยาลัยลอนดอน. และผมก็ไปที่แคมบริดจ์
แล้วก็ในฐานะนักศึกษาปริญญาโท และที่นั่นผมได้ไปเข้าเรียนในหลายๆด้านแตกต่างกันไปที่ผมพบว่าน่าสนใจ
อย่างเช่นหลักสูตรด้านจักรวาลวิทยาของบอนดิ, และหลักสูตรของดี-เร็กซ์ในเรื่องกลไกควอนตัม.
และอีกหลักสูตรหนึ่งที่ได้ถูกให้โดยนักบรรยายสอนในชื่อของสตีน, ผู้ซึ่งพูดคุยถึงทฤษฎีของเกอเดิล
และเครื่องจักรกลควบคุมคัดท้ายอะไรทั้งหมดในเรื่องนี้. และผมคิดว่ามันเป็นขั้นระดับนั้นที่ผมได้ก่อรูปร่างมุมมองของผมนั่น
ที่ว่าจะต้องเป็นอะไรบางอย่างดำเนินอยู่เมื่อเราเข้าใจสิ่งทั้งหลายโดยเฉพาะคณิตศาสตร์ซึ่งเป็นอะไรที่มันได้เกี่ยวกับ.
(But
uh it was really later when, uh still thinking that maybe we were all computers
or something uh I had interest in, in Gurdel’s theorem1, this is when I was an
undergraduate in mathematics in London, London University. And I went to
Cambridge then as a graduate student and there I went to courses on various
things which found interesting like Bondi’s course on cosmology, and D-rex
course on quantum mechanics. And another course which was given by a lecture by
the name of Steen, who talked about Gurdel’s theorem and teering machines and
all this. And I think it was at that stage that I formed my view that there has
to be something going on when we understand things particularly mathematics
which is the what it was about.)
1 ทฤษฎีบทความไม่สมบูรณ์ของเกอเดิล
(Gödel’s incompleteness theorems)
คือชุดของทฤษฎีบท 2 ข้อในทางคณิตตรรกศาสตร์
ซึ่งคิดค้นโดย เคิร์ท เกอเดิล (Kurt Gödel) ในปี ค.ศ. 1931
ที่แสดงให้เห็นข้อจำกัดโดยธรรมชาติของระบบสัจพจน์ทางคณิตศาสตร์
ใจความสำคัญของทฤษฎีทั้ง
2
ข้อ
- ทฤษฎีบทข้อที่ 1
(First Incompleteness Theorem):
ในระบบทางคณิตศาสตร์หรือระบบสัจพจน์ที่สอดคล้อง (ไม่ขัดแย้งกันเอง) และมีความซับซ้อนพอที่จะอธิบายเลขคณิตพื้นฐานได้ จะมี "ประโยคที่เป็นจริง แต่ไม่สามารถพิสูจน์ได้ว่าเป็นจริง" ภายในระบบนั้น (แปลว่าระบบนั้นไม่สมบูรณ์) [1, 2] - ทฤษฎีบทข้อที่ 2
(Second Incompleteness Theorem):
ระบบสัจพจน์ที่มีความซับซ้อนพอจะไม่สามารถพิสูจน์ "ความสอดคล้อง" (ความไม่ขัดแย้งกันเอง) ของตัวมันเองได้จากภายในระบบนั้น
เอ่อ,ที่ไม่สามารถถูกทำได้โดยคอมพิวเตอร์ทั้งหลาย,
ความเข้าใจของอะไรที่คุณกำลังทำอยู่ คืออะไรบางอย่างที่แตกต่างไปจากการประมวลผล. เอ่อ,
ผมไม่ได้มีแนวคิดอะไรว่ามันอาจจะเป็นได้ แต่จากการบรรยายของดี-เร็กซ์นั้น,
ผมแบบว่าได้แยกแยะความย้อนแย้งในตัวมันเองนี้ออกมาได้ระหว่างกระพบวนการตรวจวัดและกลไกควอนตัม. (Uh, which cannot be done by
computers the understanding of what you’re doing is something different from
computation. Uh, I had no idea what it might be but from D-rex’s lectures, I
sort of picked up this Paradox between the measurement process and the rules of
quantum mechanics.)
พิธีกร: อะไรคือองค์ประกอบหลักของจิตสำนึก
(Consciousness) ที่ทำให้คุณปฏิเสธทฤษฎีการประมวลของจิต
(Computational Theory of Mind)? (What the core element of
Consciousness that make you reject the computational theory?)
โรเจอร์ เพนโรส: ผมคิดว่ามันได้เป็นการโต้ค้านของเกอเดิล และจากการบรรยายของสตีน
ที่มันกระจ่างชัดอย่างสมบูรณ์. และสิ่งทั้งหลายที่เขาวางมันในหนทางที่ซึ่งไม่ได้เป็นหนทางบ่อยครั้งที่ผู้คนทำมันกันตามปกติ
อย่างน้อยที่สุดก็ในบรรดาผู้มีชื่อเสียงโด่งดังพูดกัน. ทฤษฎีของเกอเดิลแสดงให้เห็นว่ามีสิ่งทั้งหลายเชิงคณิตศาสตร์ที่คุณไม่สามารถพิสูจน์ได้ให้เห็นถึงข้อความที่ไม่สามารถพิสูจน์ได้. (I think it was the Gurdel’s argument
and from Steen’s lectures it made it completely clear. And things he put it in
a way which is not the way often people do it people usually at least in
popular account say of well Gurdel’s theorem shows there are things in mathematics
you can’t prove see unprovable statements.)
และผมไม่ได้ชอบในแนวคิดกับเรื่องนั้น
แต่สตีนได้ทำมันการะจ่างชัดอย่างสมบูรณ์ว่า สามารถพิสูจน์ได้เป็นอย่างดีโดยวิถีทางอะไรที่คุณได้เห็นมันกันในตอนนี้
ที่คุณไว้วางใจในวิถีทางของการพิสูจน์, ถ้าคุณไวเวางใจกับวิถีทางของการพิสูจน์แล้ว
คุณก็สามารถก้าวข้าม/อยู่เหนือสิ่งพวกนั้นไปได้. ในตอนนี้,
อะไรกำลังเกิดขึ้นอยู่ที่นั่นคุณมองเห็นมัน หมายความว่าการยืนอยู่ของเราทำใหราสามารถที่จะไปโพ้นเลยกฎทั้งหลายใดๆของการพิสูจน์ที่คุณไว้วางใจ
เช่นนั้นเอง เอ่อ ที่ผมคิด, นตอนนั้น ผมได้สร้างแนวคิดขึ้นมาว่า
กระบวนการที่เกิดขึ้นเมื่อเรามีความเข้าใจในสิ่งใดสิ่งหนึ่งอย่างมีจิตสำนึกนั้น
ไม่ใช่กระบวนการประมวลผลเชิงอัลกอริธึม,
หากแต่เป็นผลลัพธ์ที่ตกผลึกมาจากการเข้าฟังการบรรยายและวิชาตรรกะเชิงคณิตศาสตร์โดยแท้จริง.
(And I didn’t like the idea of that but Steen made it completely
clear that well provable by what means you see now do you trust the means of
proof if you trust the means of proof then you can transcend them. Now, what’s
going on there you see it means our standing enables us to go beyond the any
rules of proof that you trust so uh I think, I formulated my idea then that
what we do when we consciously understand something is not computational but
that was really a result of the lectures and mathematical logic I went to.)
ช่องว่างที่หายไปในฟิสิกส์สมัยใหม่*
การระบุความไม่สอดคล้องกันในกลศาสตร์ควอนตัม:
สมการชโรดิงเจอร์ ปะทะ การลดรูปของสถานะ (The
Missing Gap in Modern Physics* Identifying the inconsistency in
quantum mechanics: The Schrodinger equation vs state reduction)
พิธีกร: ดังนั้นนั่นคือจุดรากฐานว่า,
ว่าจิตสำนึกไม่ได้เป็นเชิงการประมวลผล. ดังนั้น, แล้วคุณก็ต้องให้คตำอธิบายอีกอันหนึ่งหรือ? (So that’s the fundamental point
that, that Consciousness is not computational. So, then you have to give
another explain?)
โรเจอร์ เพนโรส: ผมคิดว่านั่นคือที่ซึ่งการบรรยายของดี-เร็กซ์ แค่เข้ามาที่ผมได้รู้สึกว่าจำเป็นต้องการที่ไหนสักแห่งมีช่องว่างในความเข้าใจของเรา.
ในตอนนี้ผมไม่รู้ว่านานเท่าไหร่ที่มันทำให้ผมรวบรวมก่อรูปความเชื่อนี้. ผมคิดว่ามันค่อยๆเป็นมากว่าหลายปีและผมก็ไม่ได้คิดถึงมันมากนัก.
ผมแค่ก่อรูปร่างทัศนะนั่นที่ว่า เอ่อ อะไร,
อะไรที่ได้เกี่ยวข้องด้วยในการคิดอย่างมีสำนึกจิตที่ไม่สามารถอธิบายได้ทั้งหมดโดยทางฟิสิกส์
ที่เรารู้กันดี และที่ซึ่งช่องว่างใหญ่ในฟิสิกส์ซึ่งเรารู้กันดี, มันอยู่ในกลไกทางควอนตัม
เอ่อ ลักษณะประการหนึ่งของความขัดแย้งระหว่างวิวัฒนาการอันต่อเนื่อง. (I think there’s where D-rex’s
lectures just came in that I felt you needed somewhere where there was a gap in
our understanding. Now I don’t know how long it took me to formulate this
belief. I think it gradually came over many years and I don’t think much of it.
I just formed a view that uh what, what’s involved in conscious thinking can’t
be entirely described by the physics that we know and where is the big main Gap
in the physics we know well, it’s in the quantum mechanical uh the sort of
contradiction between the continuous Evolution.)
มันถูกให้มาโดยสมการของชโรดิงเจอร์ และปรากฏการณ์ความน่าจะเป็นแบบไม่ต่อเนื่องซึ่งบังเกิดขึ้นเมื่อคุณทำการตรวจวัด.
สิ่งของสองสิ่งนี้ประกอบเข้ากันได้อย่างพอดี แต่พวกมันกลับขัดแย้งกัน. (It’s given by the Schrodinger
equation and the discreet uh probabilistic thing which happens when you make a
measurement. The two things fit nicely together but they’re in consistent with
each other.)
วิทยาศาสตร์สามารถอธิบายสองความลี้ลับได้ด้วยหนึ่งทางออกหรือ?*
การรับมือกับข้อวิพากษ์วิจารณ์เรื่องการนำความลึกลับของจิตใจไปเชื่อมโยงกับความลึกลับของฟิสิกส์ควอนตัม (Can
Science Explain Two Mysteries with One Solution? * Addressing the
criticism of linking the mystery of the mind to the mystery of quantum physics.)
พิธีกร: เย้, และ
เอ่อคำโต้ค้านนั้นต่อนั่น ที่คุณมีสองความลี้ลับ และคุณพยายามที่จะคลี่คลายสิงความลี้ลับนี้ว่าเป็นเหมือนเช่น
ความลึกลับที่ซับซ้อนราวกับระบบสมการ และราวกับเวทมนตร์...
ที่ทุกอย่างคลี่คลายได้อย่างเหลือเชื่อ .(Yeah, and the uh
argument against that is that you have two Mysteries and you try to solve two
Mysteries like a simultaneous equation and Magic it works.)
โรเจอร์ เพนโรส:
เอาละ, ผทรู้จักผู้คนสาปแช่งอย่างดีหนึ่งเวทย์มนตร์.
หนึ่งความลี้ลับว่าทำไมเราไม่ทำพวกมัน มันไม่ได้เป็นอย่างที่คุณเห็น, ไม่, มันกระจ่างชัดในเชิงตรรกะ
เอ่อ ไม่ว่ามันจะ, คุณก็รู้, การใช้ตรรกะมากไกลเกินไป ผมไม่รู้ว่ามัน,
มันคือว่านั่นต้องมีอะไรบางอย่างภายนอกฟิสิกส์ และมันต้องมีอะไรบางอย่างที่ซึ่งเป็นสิ่งสำคัญต่อบางสิ่งของปฏิบัติการเป็นได้กับหลายๆสิ่ง.
(Well, I know people accuse me
well one Mystery. One mystery why we don’t they it’s not that you see, no, it’s
clearly logical uh whether it’s you know taking the logic too far I don’t know
it’s, it’s that there has to be something outside the physic and it has to be
something which is important to something of the operation Avail lots of things.)
เราไม่รู้ว่าเราไม่รู้กระทั่งในตอนนี้
ไม่ว่าจักรวาลได้เปิดออกบางส่วนหรือไม่ก็ได้ปิดอะไรที่ต้องทำด้วยกับมัน
เราไม่รู้ถึงกฎทั้งหลาย เราไม่รู้ว่ากฎที่กำหนดมวลของอนุภาคแต่ละตัวคืออะไร
มีปริศนามากมายอยู่ตรงนั้น ซึ่งมันไม่ได้เกี่ยวข้องโดยตรง แต่บางทีสิ่งเดียวที่น่าจะเกี่ยวข้องโดยตรงก็คือ
ช่องว่างขนาดใหญ่ในความเข้าใจของเรา
ซึ่งเกี่ยวข้องกับกระบวนการทั้งสองแบบของกลศาสตร์ควอนตัมที่ขัดแย้งกันเอง. (We don’t know we don’t know
even now whether the universe is spatially open or closed what’s that got to do
with it we don’t know rules are that Define the masses of particles
individually there’s lots of mysteries there that’s not directly relevant right
but something the only thing which could be directly relevant is this big gap
in our understanding which has to do with the two procedures of quantum
mechanics which are inconsistent with each other.)
ดังนั้น, มันจำเป็นต้องมีทฤษฎีอื่นเข้ามาเติมเต็มช่องว่างตรงนั้น
และนั่นคือจุดเดียวที่ฉันคิดออก และตอนนี้ก็ยังคงเป็นจุดเดียว จุดเดียวจริงๆ
ที่ฉันสามารถคิดได้ ที่ซึ่งพวกเขาได้มีช่องโหว่ขนาดใหญ่ที่สามารถถูกเติมเต็มโดยบางทฤษฎีใหม่ ที่ในการประมวลผลไม่ได้ปกครอง. (So, it needs some other Theory to
fill that Gap and that is the one place that I could think of and I still the
only, only place I can think of where they’ve got a big enough gap which could
be filled by some new theory in which computation doesn’t rule.)
ทำไมการประมวลผลจึงไม่สามารถจำลองความเป็นจริงได้* ดเพนโรส ได้โต้ค้านว่า ในขณะโลกกายภาพส่วนใหญ่สามารถถูกจำลองได้, “การลดรูปสถานะ”
ยังคงเป็นแนวรบสุดท้าย. (Why Computation Can’t Simulate Reality* Penrose
argues that while most of the physical world can be simulated, “state reduction2” remains the final frontier.)
คุณมองเห็นทุกสิ่งอื่นที่เรารู้คุณสามารถอย่างน้อยที่สุดก็ใกล้เคียงเท่าๆกับที่คุณจำลองในการประมวลผล,
ใช่, อะไรที่โลกเชิงกายภาพกำลังทำโลกกำลังดำเนินไปตามทฤษฎีทางฟิสิกส์เหล่านั้นถูกต้อง
แต่หนึ่งที่ซึ่งเราไม่รู้ว่าในวถสนะการลดรูปลงอันโต, สิ่งที่หายไปอันโตในกลไกควอนตัม. (You see everything else we
know you can at least as closely as you simulate in a computation yes, what the
physical world is doing according to those that physical Theory right but the
one place we don’t know that is in this state reduction the big, the big
missing thing in quantum mechanics.)
พิธีกร: และอย่างไรแล้วที่เชื่อมโยงต่อปรากฏการณ์วิทยาคืออะไรที่เรารู้สึกเหมือนเมื่อเรามีสำนึกจิต. (And how does then that relate to
the phenomenology what we feel like when we’re conscious.
โรเจอร์ เพนโรส:
เอาละ, มันไม่ได้เป็น, ไม่จริง, ผมหมายถึงว่ามันเป็นในแง่ที่ว่าคุณมองเห็นว่ามีรูปลักษณ์ทั้งหลายมากมายที่จะมองเห็นความสุข
เอ่อ คุณก็รู้, ความเจ็บปวด เอ่อ นิยมชมชื่นของความสวยงาม. เอาละ, มันก็ช่วยได้ประมาณหนึ่งนะ
แต่ของพวกนี้ไม่มีอันไหนสวยเลย, การเข้าใจถึงคุณภาพของการทำความเข้าใจในสิ่งใดสิ่งหนึ่ง. (
Well, it doesn’t, not really, I mean it does in the sense that you see there
are many aspects to see happiness uh you know, pain uh appreciation of beauty.
Well, it does to some degree but you none of these things
are pretty, are very direct but the one thing that it does touch, is the
understanding the quality of understanding something.)
ความเข้าใจ
ปะทะ ความตื่นรู้* การนิยาม 'คุณภาพของความเข้าใจ'
ว่าเป็นกระบวนการที่ไม่สามารถคำนวณได้ด้วยคอมพิวเตอร์
ซึ่งจำเป็นต้องอาศัยความตระหนักรู้ที่แท้จริงของจิตสำนึก (Understanding
vs. Awareness* Defining the “quality of understanding” as a
non-computational process that requires true conscious awareness.)
ในตอนนี้ที่คุณภาพสำหรับผมแล้วอ้างตามคำโต้แย้งของเกอเดิล
และอื่นอีกมากมาย. คุณภาพนั่นไม่ได้เป็นกระบวนการเชิงประมวลผลที่คุณเข้าใจ.
คณยืนถอยออกมา, คุณเข้าใจว่าอะไรกำลังดำเนินไปและอะไรที่นั่นหมายความถึง,
ผมไม่รู้ว่าแต่อะไรที่มันเคยได้หมายถึง, มันเป็นอะไรบางอย่างที่ต้องการความตื่นรู้ของคุณ.
มันดูไม่สมเหตุสมผลเลยที่จะบอกว่าสิ่งใดสิ่งหนึ่งมีความเข้าใจในสิ่งใดสิ่งหนึ่ง
ทั้ง ๆที่สิ่งนั้นไม่ได้มีความรับรู้หรือตระหนักถึงสิ่งนั้นด้วยซ้ำ. (Now that quality seems to me
according to the Gurdel argument and so on. That quality isn’t a computational
process you understand. You stand back you, you understand what’s going on and
what does that mean, I don’t know but what ever it means, it is something which
requires your awareness. It just doesn’t make sense to me to say of an entity
that it understands something if it’s not even aware of it.)
แค่การใช้คำคำนี้
ก็มีความหมายโดยนัยแล้วว่า สิ่งนั้นเกี่ยวข้องกับความตื่นรู้. แต่นั่นเป็นเพียงส่วนผสมเล็กๆ
ส่วนหนึ่งเท่านั้นของสิ่งที่เราเรียกว่า ความตื่นรู้ ถึง ความเป็นฉัน,
ดังนั้นกับอะไรที่จิตสำนึกเป็น. ไม่ว่าอย่างไรก็ตาม, มันเพียงพอในมุมมองของผมที่จะทำการเริ่มต้น.
มันไม่ได้ตอบคำถามอื่น ๆ ทั้งหมดหรอกนะ
อย่างเช่นว่าเกิดอะไรขึ้นบ้างเมื่อคุณรับรู้ถึงสีแดงหรืออะไรทำนองนั้น
สิ่งเหล่านั้นไม่ได้ถูกพูดถึงในเรื่องนี้เลยอย่างแน่นอน. แต่อย่างน้อยที่สุด, ถ้าคุณสามารถค้นพบหนึ่งสิ่ง
และนั่นคือนี้คือสิ่งหนึ่งที่กำลังเข้าใจ.
(Just the use of use of words implies that, that involves
awareness. Now that’s one tiny little ingredient of what awareness I, so of
what Consciousness is. Nevertheless, it’s enough in my view to make a start. It
doesn’t answer all the other questions, you know, what’s involved when you
perceive the color red or something like that uh certainly those things are not
addressed by this. But at least if you can find one thing and that’s this one
thing which is understanding.)
ข้อจำกัดทั้งหลายของข้อโต้ค้านอย่างเข้มงวด*
ความเข้าใจทางคณิตศาสตร์ช่วยเปิดมุมมองที่เฉียบคมและมีหลักการอันเป็นเอกลักษณ์
ในการทำความเข้าใจธรรมชาติของจิตสำนึกได้อย่างไร (The
Limits of Rigorous Arguments* How mathematical understanding
provides a unique, rigorous window into the nature of consciousness.)
และในข้อจำกัดอย่างยิ่งพื้นที่สาขานี้ของความเข้าใจคณิตศาสตร์เท่านั้น
เพราะนั่นคือตอนที่คุณสามารถโต้แย้งได้ว่า มีสิ่งต่าง ๆ
มากมายที่ความเข้าใจสามารถนำไปประยุกต์ใช้ได้ และคุณไม่สามารถทำข้อโต้แย้งทั้งหลายอย่างเข้มงวดเกี่ยวกับมัน. (And in this very limited area
of understanding mathematics only because that’s when you can make arguments
there are lots of things understanding applies and you can’t make uh rigorous
arguments about it.)
แต่ที่นี่คือหนึ่งในที่ซึ่งคุณสามารถทำข้อโต้แย้งทั้งหลายอย่างเข้มงวด
มันดูสำหรับผมแล้ว ค่อนข้างกระจ่างชัดอย่างสวยงาม เอ่อ บอกเราว่าความเข้าใจของเรา
ไม่ได้เป็นการประมวลผล. (But
here is one where you can make rigorous arguments and those rigorous arguments it
seems to me pretty clearly uh tell us that our understanding is not a
computational process.)