โมเดลภาษาขนาดใหญ่ตามหลักการของวิกิมีเดีย

กระแสความตื่นตัวเกี่ยวกับโมเดลภาษาขนาดใหญ่ (LLMs) ไม่ได้รอดพ้นไปจากกลุ่มขับเคลื่อนวิกิมีเดีย ไม่ใช่เพียงเพราะเรากำลังสัมผัสได้ถึงผลกระทบจากการมีอยู่ของมันในหลากหลายแง่มุมอย่างชัดเจน (เช่น ภาระของเซิร์ฟเวอร์ พฤติกรรมที่เปลี่ยนไป และยอดผู้อ่านที่หายไป) แต่ชาววิกิมีเดียหลายคนยังรู้สึกถึงแรงกระตุ้นหรือความกดดันที่ต้องใช้งานเครื่องมือเหล่านี้ด้วยตัวเอง มีการพูดคุยกันมากมายเกี่ยวกับการใช้งานเครื่องมือเหล่านี้ในกลุ่มขับเคลื่อนของเรา ตั้งแต่การอภิปรายเรื่องนโยบายบนวิกิ หัวข้อต่าง ๆ ในงานแฮกกาธอนไปจนถึงในกลุ่มแชตต่าง ๆ ผมมีความรู้สึกมากมายเกี่ยวกับเรื่องนี้ แต่ก็ยังไม่ได้เรียบเรียงความคิดออกมาอย่างสมบูรณ์นัก ต้องขออภัยล่วงหน้าหากบางประเด็นอาจถูกทิ้งค้างไว้โดยไม่มีคำตอบ อย่างไรก็ตาม ผมรู้สึกว่าจำเป็นต้องเผยแพร่อะไรบางอย่างออกมาก่อนงานวิกิเมเนีย เนื่องจากมีหัวข้อและกิจกรรมคู่ขนานที่เกี่ยวกับเรื่องนี้เกิดขึ้นมากมาย และนี่คือเหตุผลครับ

เมื่อไม่นานมานี้ ผมได้ไปร่วมงานสัมมนา AI-Bridges และในกิจกรรมคู่ขนานที่เน้นเรื่องวิกิมีเดีย ผมรู้สึกโล่งใจที่ได้ยินว่ามีคนอื่น ๆ อีกหลายคนที่รู้สึกเหมือนผมว่าประเด็นนี้เชื่อมโยงกับปัญหาต่าง ๆ มากมาย มีคำกล่าวประโยคหนึ่งในวันนั้นที่โดนใจผมอย่างแรง (ผมไม่สามารถบอกได้ว่าใครเป็นคนพูดเนื่องจากการประชุมจัดขึ้นภายใต้กฎชาแธมเฮาส์ [Chatham House rules]) ใจความสำคัญของมันคือ: “หลักการสำหรับ LLMs จะหน้าตาเป็นอย่างไร หากกลุ่มขับเคลื่อนวิกิมีเดียเป็นผู้คิดค้นมันขึ้นมาก่อนที่จะเกิดกระแสความนิยมในปัจจุบัน?” และนั่นคือจุดที่ผมอยากจะเน้นในบล็อกโพสต์นี้ อย่างน้อยที่สุด ผมหวังว่ามันจะเป็นมุมมองหนึ่งที่สามารถนำไปใช้ในหัวข้อเกี่ยวกับปัญญาประดิษฐ์ (เอไอ) กว่า 22 หัวข้อในงานวิกิเมเนีย เพื่อที่เราจะได้ไม่ถูกพัดพาไปตามกระแสความนิยมที่กำลังถาโถมอยู่ในขณะนี้

เสรีภาพและโอเพนซอร์ส

ค่านิยมของความเคลื่อนไหวด้านซอฟต์แวร์เสรีและโอเพนซอร์สฝังรากลึกอยู่ในกลุ่มขับเคลื่อนวิกิมีเดีย และสำหรับผม มันยิ่งชัดเจนขึ้นเรื่อย ๆ ว่าทำไมจึงควรเป็นเช่นนั้น งานเขียนที่ยอดเยี่ยมที่สุดชิ้นหนึ่งที่ผมเคยอ่านเกี่ยวกับเรื่องนี้ และยังเกี่ยวข้องกับเอไอด้วย คือบทความความเรียงเรื่อง Software Freedom as Civic Care (เสรีภาพของซอฟต์แวร์ในฐานะความใส่ใจของพลเมือง) โดย ออเดรย์ ถัง ผมขอแนะนำอย่างยิ่งให้ไปลองอ่านกัน ซอฟต์แวร์เสรีและโอเพนซอร์สอาจดูเหมือนเป็นข้อกำหนดที่เห็นได้ชัดสำหรับ LLMs เนื่องจากทุกสิ่งที่เราต้องการนำไปติดตั้งบนเซิร์ฟเวอร์ของเราจะต้องเป็นโอเพนซอร์ส ไม่ว่าจะเป็น LLMs หรือไม่ก็ตาม แต่ก็ยังมีรายละเอียดที่ต้องพิจารณา อย่างแรกคือ ชุมชนโอเพนซอร์สได้ตระหนักแล้วว่า การแค่แปะสัญญาอนุญาตไว้บนโมเดลนั้น ไม่เหมือนกับการเผยแพร่ซอร์สโค้ดไปพร้อมกับมัน ส่วนหนึ่งเป็นเพราะมันไม่ใช่ซอร์สโค้ดที่แท้จริง ดังนั้นจึงมีการพัฒนานิยามของ Open Source AI ขึ้นมา แต่สิ่งนี้ก็ยังคงเรียกร้องเพียงแค่คำอธิบายว่าข้อมูลการฝึกฝน ประเภทใดถูกนำมาใช้ โดยไม่ได้บังคับให้ต้องระบุและให้ข้อมูลอย่างชัดเจน ในทางกลับกัน หากข้อมูลการฝึกฝนได้รับการอ้างอิงและเปิดให้เข้าถึงได้อย่างชัดเจน มันก็จะเป็นไปได้ที่จะนำมาปรับแต่งเพื่อการพัฒนาและวิเคราะห์หาอคติ การมีข้อมูลการฝึกฝนทั้งหมดอยู่ภายใต้สัญญาอนุญาตเสรีหรือในสาธารณสมบัติจะไม่เพียงช่วยให้เกิดการเปิดกว้างในการเข้าถึงเท่านั้น แต่มันยังสอดคล้องกับค่านิยมของเรา และวิธีที่เราเผยแพร่เนื้อหาของเราเพื่อให้นำไปใช้ซ้ำอีกด้วย

ตัวผมเองไม่ใช่นักพัฒนา LLM และมีความรู้จำกัดเกี่ยวกับวิธีการสร้างพวกมัน ดังนั้น หากมีสิ่งอื่น ๆ ที่เป็นองค์ประกอบสำคัญ (เช่น วิธีการประเมินผล น้ำหนักของโมเดล หรือเฟรมเวิร์กที่มันทำงานอยู่) ต่อตัว LLM สิ่งเหล่านี้ก็ควรได้รับการเผยแพร่ด้วยเช่นกัน เพื่อให้สามารถนำไปใช้ ศึกษา ปรับปรุง และแจกจ่ายได้ตามต้องการ

การมีสิ่งเหล่านี้ทั้งหมดถือเป็นการเริ่มต้นที่ดี แต่ผมคิดว่ามันยังไม่เพียงพอ

จริยธรรม

แม้ว่าอย่างน้อยในตอนนี้ การฝึกฝนโมเดลด้วยเนื้อหาที่มีลิขสิทธิ์คุ้มครองอย่างเต็มรูปแบบดูเหมือนจะถูกกฎหมายในสหรัฐอเมริกา แต่ผมคิดว่ามันกำลังล้ำเส้นความพอดีบางอย่าง และเราควรยึดมั่นในการอนุญาตที่ชัดเจนกว่านี้ การฝึกฝนโมเดลด้วยเนื้อหาเสรีเพียงอย่างเดียวนั้น อย่างน้อยก็มีจริยธรรมมากกว่าการกวาดต้อนเอาทุกสิ่งที่เผยแพร่ภายใต้ลิขสิทธิ์คุ้มครองมาใช้ แต่ก็มีความเป็นไปได้สูงที่ผู้คนซึ่งใช้สัญญาอนุญาตเสรีหลายคน ไม่ได้คาดคิดว่าเนื้อหาของตนจะถูกนำมาใช้ในลักษณะนี้ การคาดเดาอนาคตเป็นเรื่องท้าทาย แต่อย่างน้อยเนื้อหาเหล่านี้ก็ถูกเผยแพร่มาเพื่อการนำไปใช้ซ้ำโดยทั่วไป สำหรับเนื้อหาใหม่ ๆ เราควรตรวจสอบให้แน่ใจว่า ไม่ว่าจะมีเทคโนโลยีหรือสัญญาณในการขอปฏิเสธการให้ข้อมูลใด ๆ สิ่งเหล่านี้ควรได้รับการเคารพเมื่อมีการรวบรวมข้อมูลเพื่อนำไปฝึกฝนโมเดล

ในหัวข้อล่าสุดของ Open Knowledge Foundation ศาสตราจารย์ Adriana Baravalle (จาก Universidad Austral กรุงบัวโนสไอเรส) ได้อธิบายถึงหลัก 5 ประการสำหรับการออกแบบอย่างมีความรับผิดชอบ ซึ่งผมชอบมาก ๆ หลักการข้อแรกเกี่ยวข้องกับความสามารถในการตรวจสอบย้อนกลับของข้อมูลการฝึกฝน ส่วนอีกสี่ข้อเกี่ยวข้องกับจริยธรรมและอาจจะรวมถึงความซื่อสัตย์ด้วย ไม่ใช่ทุกข้อที่จะสามารถ “แก้ไข” ได้ง่าย ๆ แต่ผมคิดว่ามันคุ้มค่าที่จะนำมาขบคิดสำหรับกลุ่มขับเคลื่อนของเราเช่นกัน บางทีเรื่องที่เราอาจคุ้นเคยกันดีอยู่แล้วก็คือ ความเหลื่อมล้ำของทรัพยากรในภาษาต่าง ๆ การทำให้สนามแข่งขันนี้มีความเท่าเทียมกันนั้นไม่ใช่เรื่องง่าย แต่เราตระหนักถึงมัน และหลายคนในความเคลื่อนไหวของเราก็กำลังทำงานในเรื่องนี้อยู่ ในทำนองเดียวกัน ปัญหาเกี่ยวกับการเข้าถึงเครื่องมือในพื้นที่ที่มีโครงสร้างพื้นฐานย่ำแย่ก็เป็นที่รับรู้กันดี และเราควรคำนึงถึงเรื่องนี้ไว้เสมอ ส่วนที่เธอเรียกว่า ความซื่อสัตย์ทางนิเวศวิทยา (ecological honesty) อาจจะนำไปจัดอยู่ในหัวข้อความโปร่งใสด้านล่างได้ แต่ผมคิดว่ามันเหมาะที่จะเป็นประเด็นด้านจริยธรรม เพราะมันเป็นเรื่องของกระบวนการ ไม่ใช่เรื่องของเนื้อหาหรือผลลัพธ์ มุมมองของผมคือ เราควรใช้เฉพาะ LLMs ที่นักพัฒนาใช้ความพยายามอย่างเหมาะสมในการรายงานผลกระทบทางนิเวศวิทยาที่เกิดจากการสร้าง LLM เท่านั้น และเราก็ควรเป็นแบบอย่างที่ดีในการรายงานด้วยว่าเราใช้ทรัพยากรใดในการรันเครื่องมือเหล่านี้ หรือกำหนดให้ข้อมูลนั้นต้องเป็นสาธารณะด้วยเช่นกัน หลักการข้อหนึ่งของเธอที่ผมมองว่าแปลกใหม่และอาจต้องอาศัยนวัตกรรมบางอย่างคือ เครื่องมือควรมี “หลักการสอนที่ตั้งอยู่บนความไม่แน่นอน” (pedagogy of uncertainty) ความหมายของเธอคือ เครื่องมือควรสามารถสื่อสารในสิ่งที่พวกมันไม่รู้ และไม่แสดงความมั่นใจแบบผิด ๆ ออกมา บางทีเรื่องนี้อาจเป็นไปไม่ได้เมื่อพิจารณาจากเทคโนโลยีในปัจจุบัน แต่ในฐานะชาววิกิมีเดีย ผมอยากเห็นเครื่องมือต่าง ๆ สามารถทำเช่นนั้นได้อย่างแน่นอน

ความโปร่งใส

ความโปร่งใสส่วนใหญ่น่าจะถูกจัดการได้ด้วยการเปิดเผยข้อมูลการฝึกฝนและโค้ดให้มากขึ้น อย่างไรก็ตาม ผมคิดว่ามันคุ้มค่าที่จะย้ำว่า การทำเช่นนี้ไม่เพียงแต่จะเป็นไปตามอุดมการณ์เท่านั้น แต่มันยังให้เบาะแสด้วยว่าเราจะสามารถมีความไว้วางใจต่อโมเดลหนึ่ง ๆ ได้ในระดับใด ในขณะเดียวกัน ห่วงโซ่ที่มาที่สามารถตรวจสอบได้เช่นนี้ ก็สะท้อนความเป็นวิกิพีเดียได้อย่างดีเยี่ยม

บนเมตา เรามีแนวปฏิบัติที่ดีอยู่แล้วในการอธิบายโมเดลการเรียนรู้ของเครื่องด้วย “การ์ดโมเดล” แม่แบบสำหรับสิ่งนี้สามารถขยายให้ครอบคลุมทุกสิ่งที่กล่าวถึงข้างต้นได้ และแน่นอนว่าทุกโมเดลที่เราใช้ ควรได้รับการอธิบายโดยใช้การ์ดโมเดลนี้

ความรื่นรมย์

ในขณะที่มีการอภิปรายกันนับครั้งไม่ถ้วนในโครงการต่าง ๆ เกี่ยวกับวิธีที่เราจะนำ LLMs มาใช้งาน ซึ่งมักจะมุ่งเน้นไปที่ความมีประโยชน์ของผลลัพธ์ และบางครั้งก็มีการพูดคุยถึงประเด็นทางกฎหมาย แต่ผมอยากเน้นย้ำถึงประเด็นที่ Christophe Henner ได้กล่าวไว้ในอีเมลเธรดบน Wikimedia-l เมื่อต้นปีที่ผ่านมา::

“การมีมนุษย์เป็นผู้คุมกระบวนการทำงานคือค่านิยมอันดับหนึ่งของเรา โครงการของวิกิมีเดียนั้นยอดเยี่ยม แต่เรายังประสบความสำเร็จในการสร้างบางสิ่งที่ยิ่งใหญ่กว่านั้น นั่นคือชุมชนที่ร่วมแบ่งปันวิสัยทัศน์ว่าอะไรคือ ‘คุณภาพ’ ข้ามผ่านหัวข้อ ภาษา และภูมิศาสตร์ แม้จะมีความแตกต่างระหว่างโครงการต่าง ๆ แต่นี่คือความสำเร็จที่ยิ่งใหญ่ที่สุดของเรา ไม่มีระบบเอไอใดที่จะสามารถจำลองความรู้ที่ผ่านการตรวจสอบความถูกต้องโดยชุมชน พร้อมกับความรับผิดชอบในด้านบรรณาธิการได้ นั่นคือป้อมปราการที่คอยปกป้องเรา ไม่ใช่ตัวเนื้อหา แต่เป็นกระบวนการของมนุษย์ที่อยู่เบื้องหลังเนื้อหาต่างหาก”

เมื่อนำสิ่งนั้นมารวมกับสิ่งที่ Alex Stinson เขียนไว้ใน Signpost เมื่อเดือนมิถุนายน:

“”การเป็นอาสาสมัครคือสิทธิพิเศษของการมีเวลาว่าง การเป็นอาสาสมัครเพื่อสร้างเนื้อหาที่อัดแน่นไปด้วยข้อมูลในโลกที่มีข้อมูลล้นเกิน เป็นทางเลือกส่วนบุคคลที่หาได้ยาก และหากเส้นทางสู่การมีส่วนร่วมที่เราตั้งสมมติฐานไว้ คือการเอาแรงงานแบบเดียวกันนี้ไปให้โมเดลเอไอทำแทนในส่วนอื่น ๆ ส่วนใหญ่ของชีวิตเรา – นั่นเท่ากับว่าเรากำลังทำให้กรวยแคบลง ไม่ได้ทำให้มันกว้างขึ้น”

ทั้งสองประเด็นนี้สอดคล้องอย่างมากกับคำกล่าวนี้จากปี 2024:

“ฉันอยากให้เอไอซักผ้าและล้างจานให้ฉัน เพื่อที่ฉันจะได้ทำงานศิลปะและเขียนหนังสือได้ ไม่ใช่ให้เอไอมาทำงานศิลปะและเขียนหนังสือให้ฉัน เพื่อที่ฉันจะได้ไปซักผ้าและล้างจาน” — Joanna Maciejewska

ดังนั้น ประเด็นที่ผมอยากจะสื่อก็คือ เมื่อเราใช้งาน LLMs เราไม่ควรกลายสภาพเป็นเซนทอร์กลับด้าน อย่างที่ Cory Doctorow เคยเปรียบเปรยไว้ ในทางกลับกัน เราควรสร้างความมั่นใจว่านวัตกรรมใด ๆ ก็ตามที่เรานำมาใช้ จะต้องนำความรื่นรมย์และความรู้สึกของการเป็นชุมชนที่แข็งแกร่งยิ่งขึ้นมาสู่พวกเราชาวมนุษย์ ผู้ซึ่งประกอบขึ้นเป็นกลุ่มขับเคลื่อนวิกิมีเดีย แทนที่จะกลายเป็นการเพิ่มภาระงานที่น่าเบื่อ และต้องไม่ลืมกระบวนการที่เราได้สร้างขึ้นมา

เราจะไปทางไหนกันต่อจากนี้?

โพสต์นี้ส่วนใหญ่เขียนขึ้นเพื่ออธิบายว่าเครื่องมือของเราควรจะมีหน้าตาเป็นอย่างไรหากเราออกแบบมันจากหลักการพื้นฐาน (ของเรา) เอง ผมมั่นใจว่าผมคงพลาดแง่มุมสำคัญบางอย่างไป กระนั้น เห็นได้ชัดว่าเรายังไปไม่ถึงจุดนั้น ผมไม่รู้จัก LLM ตัวใดในปัจจุบันที่จะสามารถตอบสนองเกณฑ์ทั้งหมดเหล่านี้ได้ ผมตระหนักดีว่า “โมเดลระดับแนวหน้า” ที่มีอยู่ในปัจจุบันยังห่างไกลจากการบรรลุข้อกำหนดเหล่านี้ไปอีกหลายปีแสง และยังมีปัญหาอื่น ๆ อีกมากมายเกี่ยวกับพวกมัน โดยเฉพาะอย่างยิ่งกับบริษัทที่อยู่เบื้องหลังพวกมัน แต่ก็มีคนอื่น ๆ ที่เขียนถึงหัวข้อเหล่านั้นได้ดีกว่าที่ผมจะทำได้ (เช่น แอมเนสตี้ และ กรีนพีซ) นอกจากนี้ยังมีความแตกต่างระหว่างเครื่องมือที่เรานำมาติดตั้งบนเซิร์ฟเวอร์ของเรา กับเครื่องมือที่ผู้คนรันบนเครื่องของตนเอง (แม้ว่าผมจะมีมุมมองในเรื่องนี้ด้วยก็ตาม) ผมยังคงหวังว่าผมได้มอบข้อคิดบางอย่างสำหรับการอภิปรายที่กำลังจะมาถึงของเรา นี่ไม่ใช่จุดสิ้นสุดของเรื่องนี้ และแน่นอนว่านี่ไม่ใช่ความคิดหรือคำพูดสุดท้ายของผมในประเด็นนี้เช่นกัน

ไวยากรณ์และการสะกดคำได้รับการตรวจสอบด้วยเครื่องมือโอเพนซอร์ส Language tool โดยไม่มีการใช้เครื่องมืออื่นใดในการสร้างข้อความหรือ “แลกเปลี่ยนไอเดีย”

หมายเหตุของผู้แปล บทความนี้แปลจากบทความที่เขียนในภาษาอังกฤษ