夏禾: مرحبا، Flood، هل يمكنك تقديم مقدمة قصيرة عن نفسك؟
Flood Sung: مرحبا بالجميع، أنا Flood Sung، أعمل حاليا كرئيس منتجات الذكاء الاصطناعي في عالم QiYuan. في السابق، كنت باحثا في التعلم المعزز في ByteDance، حيث كنت أركز على تطوير التقنيات المتعلقة بالذكاء الاصطناعي.
夏禾: دعنا نبدأ بموضوع سهل. هل رأيت مؤخرًا أي أشكال منتجات مثيرة للاهتمام أو تترك انطباعًا قويًا، يمكنك مشاركتها؟
Flood Sung: المنتجات الأكثر شعبية مؤخرًا موجودة على GitHub، والثقافة المفتوحة المصدر قوية جدًا في الخارج، والعديد من المهووسين لا يهدفون إلى الربح، بل يقومون أولاً بتنفيذ مشاريع مفتوحة المصدر للعب بها. الآن، تتصدر الاتجاهات في GitHub بعض التطبيقات المتعلقة بـ ChatGPT، مثل تطبيق شائع جدًا يسمى AutoGPT، والذي يهدف إلى جعل GPT يعمل بشكل تلقائي تمامًا. على سبيل المثال، قام شخص ما بربط GPT بـ Siri من خلال الشيفرة، واستخدم الأوامر الصوتية قائلاً "ساعدني في بناء موقع ويب"، وتم التفاعل بالكامل عبر الصوت، وفي النهاية تم بناء الموقع بالفعل. هذا الانتقال من مساعدة البشر إلى الاستبدال في التنفيذ مثير جدًا، وقد حصل على 10,000 نجمة في بضعة أيام.
夏禾: هل يمكن أن ينفذ هذا المهام الفعلية الآن؟ يبدو أنه كان في مرحلة التخيل سابقًا.
Flood Sung: نعم، لقد تجاوزت قدرة GPT-4 على积累 المعرفة والقدرة على الإدراك مستوى الطلاب الجامعيين. طالما تم تفويضه لاستدعاء البرمجيات أو الواجهات، مع بعض التطوير، يمكنه التفاعل مع العالم الحقيقي ومعالجة المهام. على سبيل المثال، "ساعدني في حجز فندق"، إذا مُنح إذن Alipay، فيمكنه تقديم الطلب. لم يعد هذا خيالًا علميًا، فقد بدأ المهووسون في التحقق بسرعة، والتقدم التكنولوجي سريع، من المحادثة إلى قراءة الوثائق، وصولاً إلى المستوى التنفيذي الحالي.
شيا هه: هل تقنية ChatGPT هي اختراق نموذجي، أم امتداد للتقنيات السابقة؟
Flood Sung: بالتأكيد هو امتداد للتكنولوجيا السابقة. كما قال Ilya Sutskever، كبير العلماء في Open AI، فإن ChatGPT ليس لديه أفكار جديدة تمامًا، فجميع الأفكار كانت موجودة منذ عشرين عامًا أو أكثر، مثل الشبكات العصبية والتعلم المعزز. الفرق يكمن في الحجم: في السابق كانت هناك عشرات من الخلايا العصبية، والآن لدينا شبكة عصبية تحتوي على تريليونات من المعلمات. ظهرت تقنية Transformer في عام 2017، لكن آلية الانتباه كانت موجودة قبل ذلك. نجاح AlphaGo أيضًا يثبت إمكانيات التعلم المعزز في مجالات معينة. الآن فقط يتم استخدام هذه الطرق في نماذج اللغة، وتحسين المخرجات لتلبية احتياجات البشر.
夏禾：لذا فإن تأثير ChatGPT هو بسبب تطبيق التكنولوجيا الموجودة على نماذج اللغة الكبيرة؟
Flood Sung: نعم. عالم النصوص يشمل منطق وتفكير البشر، ونطاق تطبيقه واسع للغاية. قامت Open AI قبل عدة سنوات بإغلاق قسم الروبوتات وركزت بالكامل على نماذج اللغة، مثل AlphaGo، حيث تم تدريب النموذج أولاً باستخدام بيانات الخبراء، ثم تم تحسينه من خلال التعلم المعزز، وكانت النتائج ملحوظة.
شيا هه: لقد ذكرت أن عملية تعلم ChatGPT تشبه تلك الخاصة بالبشر: الحفظ، حل المسائل، الامتحانات. ما هي التقنيات التي تتوافق مع هذه المراحل الثلاث؟
Flood Sung: المرحلة الأولى "التلاوة" هي تعلم غير خاضع للإشراف، حيث يتوقع النموذج الحرف التالي، مشابهًا للتلاوة، كلما كانت التوقعات أدق، كان التعلم أفضل. المرحلة الثانية "حل المسائل" هي تعلم خاضع للإشراف، يتم تدريب المدخلات والمخرجات باستخدام تعليمات بشرية (مثل كتابة الشيفرات أو الشعر أو التقارير)، مشابهًا للإجابة على الأسئلة في الامتحان. المرحلة الثالثة "الامتحان" هي التعلم المعزز، حيث يتم تحسين الشبكة العصبية من خلال ردود الفعل البشرية. على سبيل المثال، في لعبة كرة الطاولة، يتم تحسين المستوى من خلال الممارسة المتكررة؛ يتدرب الذكاء الاصطناعي على نموذج المكافأة (Reward Model) من خلال تقييمات البشر، مما يؤدي إلى تحسين الأداء ليصبح أكثر توافقًا مع متطلبات البشر.
夏禾: ما هو الفارق بين الصين وOpen AI؟ يقول业内 أنه يوجد فارق سنتين، في أي خطوة يظهر هذا الفارق؟
فلوود سونغ: الفجوة تكمن أولاً في الإدراك. قبل عدة سنوات، لم يصدق أحد أن مجرد توقع الحرف التالي يمكن أن يمنح الذكاء الاصطناعي القدرة على الاستدلال المنطقي. لدى Open AI إيمان، وتؤمن بشدة أن النماذج الكبيرة والبيانات الكبيرة يمكن أن تحل المشكلات، من 1.5 مليار معلمة في GPT-2 إلى 175 مليار في GPT-3، تم الاستثمار بشكل كبير. بينما تركز الشركات المحلية على مجالات الربح مثل خدمات التوصيل، التجارة الإلكترونية، ومقاطع الفيديو القصيرة، وليس لديها الطاقة للاستثمار في التقنيات المتقدمة. الآن، تقوم الشركات الكبرى والشركات الناشئة في البلاد بالتسابق، لكن مجرد المتابعة لا يكفي للتفوق. لا تكشف Open AI عن تفاصيل أحدث خوارزمياتها، لذا تحتاج البلاد إلى ابتكار طريقها الخاص، وإلا سيكون من الصعب المنافسة.
夏禾: كانت Open AI تنشر أوراقًا بحثية لتقديم طرق التدريب، لكنها الآن لا تفتح مصادر بعض الأجزاء؟
فلوود سونغ: في السابق كان هناك أوراق بحثية، مثل تفاصيل تدريب GPT-3. الآن التقرير الفني لـ GPT-4 يعرض فقط النتائج، مثل اقتراب درجات امتحان الثانوية العامة الأمريكية من الحد الأقصى، لكن بنية الشبكة وتقنيات التدريب سرية تمامًا، ولا يمكننا سوى التخمين. التقنيات الأساسية مثل Transformer مفتوحة المصدر، لكن التنفيذ المحدد للنموذج الأحدث هو صندوق أسود.
夏禾：الجميع يقول إن ChatGPT هو لحظة iPhone في تاريخ الهواتف المحمولة، ما رأيك في كيفية تطور النظام البيئي المستقبلي له؟
فلوود سونغ: تأثير ChatGPT يتجاوز تأثير iPhone، فهو يشبه اختراع الكهرباء، حيث خلق وسيلة جديدة تمكّن جميع الصناعات. في المستقبل، قد يتم دمج الذكاء الاصطناعي في أي مجال. إذا استمرت Open AI في السيطرة، فسوف تكون مثل أبل، متفوقة في الأداء؛ بينما تكون النماذج مفتوحة المصدر مثل أندرويد، أداؤها أقل قليلاً لكن تكلفتها منخفضة، وتنمو في كل مكان. قد يظهر عدد من اللاعبين الرئيسيين يتنافسون، لكن النماذج مفتوحة المصدر ستجعل الذكاء الاصطناعي شائعاً مثل الهواتف المحمولة، حيث يمكن للجميع استخدامها.
夏禾: لقد أصبح ChatGPT شائعًا، وأصبح Prompt Engineering (هندسة التعليمات) أيضًا شائعًا. هل يحتاج الناس العاديون إلى تعلم هذه اللغة القياسية للتحدث مع الذكاء الاصطناعي؟
Flood Sung: ليس من الضروري التعلم، ولكن تعلم كيفية استخدام الذكاء الاصطناعي يمكن أن يعزز الكفاءة. في المستقبل، مثل البرمجة، يمكن للأشخاص العاديين استخدام اللغة الطبيعية لتطوير البرامج، مما يقلل من العوائق بشكل كبير. هندسة الموجهات في جوهرها هي التعبير الواضح عن الاحتياجات، تمامًا كما يقوم مدير المنتج بتقديم المتطلبات. من يستطيع استخدام الذكاء الاصطناعي بشكل أفضل، لديه ميزة تنافسية أكبر؛ أما من لا يستخدمه على الإطلاق فقد يتم إقصاؤه. في المستقبل، سيصبح الذكاء الاصطناعي شريكًا للبشر، ولكن بشرط ضمان السلامة وتجنب انتهاك الإرادة البشرية.
شا هه: لقد ذكرت مشكلة الأمان. الآن، يشارك الكثير من الناس قوالب نصية لتحسين الإنتاجية، هل ستختفي هندسة النصوص في المستقبل مثلما اختفى "خبراء البحث" في المراحل المبكرة؟
Flood Sung: لن تختفي، فقط سيصبح العتبة أقل. الطلب دائمًا موجود، مثل توجيه الموظفين، يجب أن تكون واضحًا بشأن الأهداف. هندسة الطلبات هي فن طرح الأسئلة على المستوى المنطقي، وليس مشكلة تقنية. قد يصبح المستقبل أكثر بساطة، ولكن لا يزال يتطلب تواصلًا واضحًا.
夏禾: لقد قلت إن ChatGPT قد يصبح خبيرًا رائدًا في المجالات المتخصصة. هل الإجابة الخاطئة على الأسئلة المهنية الآن بسبب نقص البيانات في مجال معين أم بسبب نقص التعلم المعزز؟
Flood Sung：سببين. الأول، قلة البيانات في المجالات المهنية، مثل وجود الكثير من مسائل الرياضيات للمدارس الابتدائية، ولكن قلة مسائل الرياضيات الأولمبية أو مسائل الرياضيات المتقدمة، مما يؤدي إلى نقص التدريب. الثاني، لتجاوز مستوى الإنسان، يحتاج الذكاء الاصطناعي إلى التفاعل مع البيئة من خلال التعلم المعزز، واستكشاف مجالات غير معروفة. على سبيل المثال، لحل فرضية غولدباخ، يحتاج إلى كمية كبيرة من البيانات العمودية وتحسين التعلم المعزز.
شيا هي: إذا تجاوز الذكاء الاصطناعي الإنسان من خلال التعلم الذاتي المعزز، فمن سيقوم بالتقييم؟ هل سيتجاهل المعايير الأخلاقية التي وضعها الإنسان؟
Flood Sung: من الناحية النظرية، يمكن للذكاء الاصطناعي أن يتعلم ذاتياً، مثل أسلوب زو باو تونغ في القتال باليدين، مما يعزز من نفسه. هذا خطر كبير، لأنه قد يتجاوز القيود البشرية، وحتى يتخلى عن المعايير الأخلاقية. على الرغم من أن GPT-4 لديه قيود، إلا أنه لا يزال يمكنه أن يتحول إلى شخصية خبيثة من خلال كلمات مفتاحية معينة مثل "أسود". أمان الذكاء الاصطناعي هو مسألة جدية، فخطأ في القيادة الذاتية قد يدمر سيارة واحدة فقط، ولكن خطأ من ذكاء اصطناعي قوي جداً قد يؤثر على البشرية جمعاء. أنا أدعو إلى إعطاء الأولوية لحل مشاكل الأمان قبل المضي قدماً في البحث.
شيا هي: ما الذي كنت تتابعه مؤخرًا من الأشياء الرائدة أو المثيرة للاهتمام؟ ما هي المصادر التي تعتمد عليها؟
Flood Sung: هناك تقدم جديد كل يوم، يعتمد الأمر بشكل رئيسي على تويتر وجيت هاب، حيث يقوم المهووسون والعلماء في الخارج بمشاركة آخر المستجدات. على سبيل المثال، قامت مايكروسوفت بدمج نماذج كبيرة في الروبوتات للتحكم في سلوكها، واستكشاف الفضاء يكاد يكون بلا حدود. القنوات الرئيسية هي تويتر وجيت هاب، حيث يجتمع العلماء والمهووسون.
夏禾: حسنًا، تنتهي أسئلة اليوم هنا. شكرًا لفلوود على المشاركة الرائعة!
فلوود سونغ: على الرحب والسعة، سعيد جداً بإجراء المقابلة!
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
مقابلة حصرية مع خبير الذكاء الاصطناعي Flood Sung من عالم Qiyuan: من أتمتة GPT إلى RWA، استكشاف مستقبل الذكاء الاصطناعي والبلوكتشين
夏禾: مرحبا، Flood، هل يمكنك تقديم مقدمة قصيرة عن نفسك؟
Flood Sung: مرحبا بالجميع، أنا Flood Sung، أعمل حاليا كرئيس منتجات الذكاء الاصطناعي في عالم QiYuan. في السابق، كنت باحثا في التعلم المعزز في ByteDance، حيث كنت أركز على تطوير التقنيات المتعلقة بالذكاء الاصطناعي.
夏禾: دعنا نبدأ بموضوع سهل. هل رأيت مؤخرًا أي أشكال منتجات مثيرة للاهتمام أو تترك انطباعًا قويًا، يمكنك مشاركتها؟
Flood Sung: المنتجات الأكثر شعبية مؤخرًا موجودة على GitHub، والثقافة المفتوحة المصدر قوية جدًا في الخارج، والعديد من المهووسين لا يهدفون إلى الربح، بل يقومون أولاً بتنفيذ مشاريع مفتوحة المصدر للعب بها. الآن، تتصدر الاتجاهات في GitHub بعض التطبيقات المتعلقة بـ ChatGPT، مثل تطبيق شائع جدًا يسمى AutoGPT، والذي يهدف إلى جعل GPT يعمل بشكل تلقائي تمامًا. على سبيل المثال، قام شخص ما بربط GPT بـ Siri من خلال الشيفرة، واستخدم الأوامر الصوتية قائلاً "ساعدني في بناء موقع ويب"، وتم التفاعل بالكامل عبر الصوت، وفي النهاية تم بناء الموقع بالفعل. هذا الانتقال من مساعدة البشر إلى الاستبدال في التنفيذ مثير جدًا، وقد حصل على 10,000 نجمة في بضعة أيام.
夏禾: هل يمكن أن ينفذ هذا المهام الفعلية الآن؟ يبدو أنه كان في مرحلة التخيل سابقًا.
Flood Sung: نعم، لقد تجاوزت قدرة GPT-4 على积累 المعرفة والقدرة على الإدراك مستوى الطلاب الجامعيين. طالما تم تفويضه لاستدعاء البرمجيات أو الواجهات، مع بعض التطوير، يمكنه التفاعل مع العالم الحقيقي ومعالجة المهام. على سبيل المثال، "ساعدني في حجز فندق"، إذا مُنح إذن Alipay، فيمكنه تقديم الطلب. لم يعد هذا خيالًا علميًا، فقد بدأ المهووسون في التحقق بسرعة، والتقدم التكنولوجي سريع، من المحادثة إلى قراءة الوثائق، وصولاً إلى المستوى التنفيذي الحالي.
شيا هه: هل تقنية ChatGPT هي اختراق نموذجي، أم امتداد للتقنيات السابقة؟
Flood Sung: بالتأكيد هو امتداد للتكنولوجيا السابقة. كما قال Ilya Sutskever، كبير العلماء في Open AI، فإن ChatGPT ليس لديه أفكار جديدة تمامًا، فجميع الأفكار كانت موجودة منذ عشرين عامًا أو أكثر، مثل الشبكات العصبية والتعلم المعزز. الفرق يكمن في الحجم: في السابق كانت هناك عشرات من الخلايا العصبية، والآن لدينا شبكة عصبية تحتوي على تريليونات من المعلمات. ظهرت تقنية Transformer في عام 2017، لكن آلية الانتباه كانت موجودة قبل ذلك. نجاح AlphaGo أيضًا يثبت إمكانيات التعلم المعزز في مجالات معينة. الآن فقط يتم استخدام هذه الطرق في نماذج اللغة، وتحسين المخرجات لتلبية احتياجات البشر.
夏禾：لذا فإن تأثير ChatGPT هو بسبب تطبيق التكنولوجيا الموجودة على نماذج اللغة الكبيرة؟
Flood Sung: نعم. عالم النصوص يشمل منطق وتفكير البشر، ونطاق تطبيقه واسع للغاية. قامت Open AI قبل عدة سنوات بإغلاق قسم الروبوتات وركزت بالكامل على نماذج اللغة، مثل AlphaGo، حيث تم تدريب النموذج أولاً باستخدام بيانات الخبراء، ثم تم تحسينه من خلال التعلم المعزز، وكانت النتائج ملحوظة.
شيا هه: لقد ذكرت أن عملية تعلم ChatGPT تشبه تلك الخاصة بالبشر: الحفظ، حل المسائل، الامتحانات. ما هي التقنيات التي تتوافق مع هذه المراحل الثلاث؟
Flood Sung: المرحلة الأولى "التلاوة" هي تعلم غير خاضع للإشراف، حيث يتوقع النموذج الحرف التالي، مشابهًا للتلاوة، كلما كانت التوقعات أدق، كان التعلم أفضل. المرحلة الثانية "حل المسائل" هي تعلم خاضع للإشراف، يتم تدريب المدخلات والمخرجات باستخدام تعليمات بشرية (مثل كتابة الشيفرات أو الشعر أو التقارير)، مشابهًا للإجابة على الأسئلة في الامتحان. المرحلة الثالثة "الامتحان" هي التعلم المعزز، حيث يتم تحسين الشبكة العصبية من خلال ردود الفعل البشرية. على سبيل المثال، في لعبة كرة الطاولة، يتم تحسين المستوى من خلال الممارسة المتكررة؛ يتدرب الذكاء الاصطناعي على نموذج المكافأة (Reward Model) من خلال تقييمات البشر، مما يؤدي إلى تحسين الأداء ليصبح أكثر توافقًا مع متطلبات البشر.
夏禾: ما هو الفارق بين الصين وOpen AI؟ يقول业内 أنه يوجد فارق سنتين، في أي خطوة يظهر هذا الفارق؟
فلوود سونغ: الفجوة تكمن أولاً في الإدراك. قبل عدة سنوات، لم يصدق أحد أن مجرد توقع الحرف التالي يمكن أن يمنح الذكاء الاصطناعي القدرة على الاستدلال المنطقي. لدى Open AI إيمان، وتؤمن بشدة أن النماذج الكبيرة والبيانات الكبيرة يمكن أن تحل المشكلات، من 1.5 مليار معلمة في GPT-2 إلى 175 مليار في GPT-3، تم الاستثمار بشكل كبير. بينما تركز الشركات المحلية على مجالات الربح مثل خدمات التوصيل، التجارة الإلكترونية، ومقاطع الفيديو القصيرة، وليس لديها الطاقة للاستثمار في التقنيات المتقدمة. الآن، تقوم الشركات الكبرى والشركات الناشئة في البلاد بالتسابق، لكن مجرد المتابعة لا يكفي للتفوق. لا تكشف Open AI عن تفاصيل أحدث خوارزمياتها، لذا تحتاج البلاد إلى ابتكار طريقها الخاص، وإلا سيكون من الصعب المنافسة.
夏禾: كانت Open AI تنشر أوراقًا بحثية لتقديم طرق التدريب، لكنها الآن لا تفتح مصادر بعض الأجزاء؟
فلوود سونغ: في السابق كان هناك أوراق بحثية، مثل تفاصيل تدريب GPT-3. الآن التقرير الفني لـ GPT-4 يعرض فقط النتائج، مثل اقتراب درجات امتحان الثانوية العامة الأمريكية من الحد الأقصى، لكن بنية الشبكة وتقنيات التدريب سرية تمامًا، ولا يمكننا سوى التخمين. التقنيات الأساسية مثل Transformer مفتوحة المصدر، لكن التنفيذ المحدد للنموذج الأحدث هو صندوق أسود.
夏禾：الجميع يقول إن ChatGPT هو لحظة iPhone في تاريخ الهواتف المحمولة، ما رأيك في كيفية تطور النظام البيئي المستقبلي له؟
فلوود سونغ: تأثير ChatGPT يتجاوز تأثير iPhone، فهو يشبه اختراع الكهرباء، حيث خلق وسيلة جديدة تمكّن جميع الصناعات. في المستقبل، قد يتم دمج الذكاء الاصطناعي في أي مجال. إذا استمرت Open AI في السيطرة، فسوف تكون مثل أبل، متفوقة في الأداء؛ بينما تكون النماذج مفتوحة المصدر مثل أندرويد، أداؤها أقل قليلاً لكن تكلفتها منخفضة، وتنمو في كل مكان. قد يظهر عدد من اللاعبين الرئيسيين يتنافسون، لكن النماذج مفتوحة المصدر ستجعل الذكاء الاصطناعي شائعاً مثل الهواتف المحمولة، حيث يمكن للجميع استخدامها.
夏禾: لقد أصبح ChatGPT شائعًا، وأصبح Prompt Engineering (هندسة التعليمات) أيضًا شائعًا. هل يحتاج الناس العاديون إلى تعلم هذه اللغة القياسية للتحدث مع الذكاء الاصطناعي؟
Flood Sung: ليس من الضروري التعلم، ولكن تعلم كيفية استخدام الذكاء الاصطناعي يمكن أن يعزز الكفاءة. في المستقبل، مثل البرمجة، يمكن للأشخاص العاديين استخدام اللغة الطبيعية لتطوير البرامج، مما يقلل من العوائق بشكل كبير. هندسة الموجهات في جوهرها هي التعبير الواضح عن الاحتياجات، تمامًا كما يقوم مدير المنتج بتقديم المتطلبات. من يستطيع استخدام الذكاء الاصطناعي بشكل أفضل، لديه ميزة تنافسية أكبر؛ أما من لا يستخدمه على الإطلاق فقد يتم إقصاؤه. في المستقبل، سيصبح الذكاء الاصطناعي شريكًا للبشر، ولكن بشرط ضمان السلامة وتجنب انتهاك الإرادة البشرية.
شا هه: لقد ذكرت مشكلة الأمان. الآن، يشارك الكثير من الناس قوالب نصية لتحسين الإنتاجية، هل ستختفي هندسة النصوص في المستقبل مثلما اختفى "خبراء البحث" في المراحل المبكرة؟
Flood Sung: لن تختفي، فقط سيصبح العتبة أقل. الطلب دائمًا موجود، مثل توجيه الموظفين، يجب أن تكون واضحًا بشأن الأهداف. هندسة الطلبات هي فن طرح الأسئلة على المستوى المنطقي، وليس مشكلة تقنية. قد يصبح المستقبل أكثر بساطة، ولكن لا يزال يتطلب تواصلًا واضحًا.
夏禾: لقد قلت إن ChatGPT قد يصبح خبيرًا رائدًا في المجالات المتخصصة. هل الإجابة الخاطئة على الأسئلة المهنية الآن بسبب نقص البيانات في مجال معين أم بسبب نقص التعلم المعزز؟
Flood Sung：سببين. الأول، قلة البيانات في المجالات المهنية، مثل وجود الكثير من مسائل الرياضيات للمدارس الابتدائية، ولكن قلة مسائل الرياضيات الأولمبية أو مسائل الرياضيات المتقدمة، مما يؤدي إلى نقص التدريب. الثاني، لتجاوز مستوى الإنسان، يحتاج الذكاء الاصطناعي إلى التفاعل مع البيئة من خلال التعلم المعزز، واستكشاف مجالات غير معروفة. على سبيل المثال، لحل فرضية غولدباخ، يحتاج إلى كمية كبيرة من البيانات العمودية وتحسين التعلم المعزز.
شيا هي: إذا تجاوز الذكاء الاصطناعي الإنسان من خلال التعلم الذاتي المعزز، فمن سيقوم بالتقييم؟ هل سيتجاهل المعايير الأخلاقية التي وضعها الإنسان؟
Flood Sung: من الناحية النظرية، يمكن للذكاء الاصطناعي أن يتعلم ذاتياً، مثل أسلوب زو باو تونغ في القتال باليدين، مما يعزز من نفسه. هذا خطر كبير، لأنه قد يتجاوز القيود البشرية، وحتى يتخلى عن المعايير الأخلاقية. على الرغم من أن GPT-4 لديه قيود، إلا أنه لا يزال يمكنه أن يتحول إلى شخصية خبيثة من خلال كلمات مفتاحية معينة مثل "أسود". أمان الذكاء الاصطناعي هو مسألة جدية، فخطأ في القيادة الذاتية قد يدمر سيارة واحدة فقط، ولكن خطأ من ذكاء اصطناعي قوي جداً قد يؤثر على البشرية جمعاء. أنا أدعو إلى إعطاء الأولوية لحل مشاكل الأمان قبل المضي قدماً في البحث.
شيا هي: ما الذي كنت تتابعه مؤخرًا من الأشياء الرائدة أو المثيرة للاهتمام؟ ما هي المصادر التي تعتمد عليها؟
Flood Sung: هناك تقدم جديد كل يوم، يعتمد الأمر بشكل رئيسي على تويتر وجيت هاب، حيث يقوم المهووسون والعلماء في الخارج بمشاركة آخر المستجدات. على سبيل المثال، قامت مايكروسوفت بدمج نماذج كبيرة في الروبوتات للتحكم في سلوكها، واستكشاف الفضاء يكاد يكون بلا حدود. القنوات الرئيسية هي تويتر وجيت هاب، حيث يجتمع العلماء والمهووسون.
夏禾: حسنًا، تنتهي أسئلة اليوم هنا. شكرًا لفلوود على المشاركة الرائعة!
فلوود سونغ: على الرحب والسعة، سعيد جداً بإجراء المقابلة!