DeepMind هي شركة أبحاث تعمل في مجال الذكاء الاصطناعي تأسست عام 2010 ويقع مقرها الرئيسي في لندن، المملكة المتحدة. تقوم الشركة بتطوير وأبحاث أنظمة الذكاء العام الاصطناعي (AGI)، والتي تهدف إلى تمكين أجهزة الكمبيوتر من التعلم والتفكير مثل البشر.
من أشهر إنجازات DeepMind هو برنامج AlphaGo الذي تم تطويره في عام 2016، والذي هزم بطل العالم Lee Sedol في لعبة Go وحظي باهتمام واسع النطاق. يوضح هذا الإنجاز إمكانات الذكاء الاصطناعي في حل المشكلات المعقدة ويجعل DeepMind واحدة من الشركات الرائدة في مجال الذكاء الاصطناعي.
في عام 2014، استحوذت شركة Google على شركة DeepMind، لكنها تحتفظ بعمليات مستقلة نسبيًا وتستمر في إجراء أبحاث الذكاء الاصطناعي المتطورة.
مصدر الصورة: تم إنشاؤها بواسطة Unbounded AI
أراد مصطفى سليمان، المؤسس المشارك لشركة DeepMind، إنشاء روبوت دردشة يمكن استخدامه لأكثر من مجرد الدردشة. في محادثة حديثة معه، أخبرني أن الذكاء الاصطناعي التوليدي هو مجرد مرحلة. التالي هو الذكاء الاصطناعي التفاعلي: الروبوتات التي يمكنها إكمال المهام التي تحددها لها عن طريق الاتصال ببرامج أخرى وأشخاص آخرين. كما دعا إلى تنظيم أقوى للذكاء الاصطناعي، بحجة أن تحقيق ذلك لن يكون صعبا.
سليمان ليس الوحيد الذي يتحدث عن مستقبل مليء بالمزيد من البرمجيات المستقلة. ولكن على عكس معظم الناس، فهو يمتلك شركة جديدة تبلغ قيمتها مليارات الدولارات، وهي Inflection، مع مجموعة من أفضل مواهب الذكاء الاصطناعي مختارة من DeepMind وMeta وOpenAI، كما توصل إلى اتفاق مع Nvidia، أكبر شركة مصنعة لرقائق الذكاء الاصطناعي. . سليمان يمارس ما يبشر به، وقد استثمر أموالا كثيرة.
ترك سليمان شركة DeepMind ثم انتقل إلى Google ليقود فريقًا مخصصًا لسياسة الذكاء الاصطناعي. وفي عام 2022، أسس شركة Inflection، إحدى أهم شركات الذكاء الاصطناعي الجديدة، وهي مدعومة باستثمار قدره 1.5 مليار دولار أمريكي من Microsoft وNVIDIA وبيل جيتس ومؤسس LinkedIn ريد هوفمان، لتصبح الشركة الوحيدة التي تتمتع بأكبر حجم تمويل. إلى OpenAI. وفي وقت سابق من هذا العام، أطلق Pi، وهو منافس لـ ChatGPT. وقد شارك للتو في تأليف كتاب مع المؤلف والباحث مايكل باسكار حول مستقبل الذكاء الاصطناعي بعنوان "الموجة القادمة: التكنولوجيا والقوة وأعظم معضلات القرن الحادي والعشرين".
قد يسخر الكثيرون من تفاؤل سليمان التكنولوجي، وحتى سذاجته. على سبيل المثال، بعض ادعاءاته حول نجاح الشرطة عبر الإنترنت تبدو غير صحيحة. لكنه ظل على قناعة بأن معتقداته صادقة وإنجيلية.
في الواقع، يتمتع سليمان بخلفية غير عادية باعتباره مليونيرًا في مجال التكنولوجيا. وفي سن التاسعة عشرة، ترك الكلية وأسس الخط الساخن للشباب الإسلامي، الذي يقدم الاستشارات الهاتفية. كما عمل في الحكومة المحلية. وقال إنه يجلب العديد من القيم من تلك الجهود إلى "إنفليكشن". الفرق هو أنه قد يكون الآن قادرًا على إجراء التغييرات التي أرادها دائمًا - للأفضل أو للأسوأ.
التقدم المذهل في الذكاء الاصطناعي مذهل وينمو بشكل كبير. الكلام، والصور، والقراءة، وفهم اللغة، والرياضيات في المدارس الابتدائية، وتوليد الأكواد - الذكاء الاصطناعي يقترب أو يتجاوز الأداء البشري في هذه المجالات. —— مصطفى سليمان
تم تحرير المقابلة التالية من أجل الطول والوضوح.
*** بدا أن حياتك المهنية المبكرة، والتي تضمنت العمل في خط مساعدة الشباب والحكومة المحلية، تتعارض مع روح وادي السيليكون. ومن الواضح أن هذه التجارب مهمة بالنسبة لك. منذ ذلك الحين، وأنت تعمل في مجال الذكاء الاصطناعي منذ 15 عامًا، وشاركت هذا العام في تأسيس ثاني شركة لك في مجال الذكاء الاصطناعي تبلغ قيمتها مليار دولار. هل يمكنك ربط النقاط بين هذه التجارب؟ ***
سليمان: كنت دائمًا مهتمًا بالسلطة والسياسة وما إلى ذلك. كما تعلمون، فإن مبادئ حقوق الإنسان هي في الأساس مقايضة، ومفاوضات مستمرة بين كل هذه التوترات الصراعية المختلفة. أستطيع أن أرى البشر يعانون من هذا - فنحن مليئون بتحيزاتنا ونقاطنا العمياء. إن عمل الناشطين، والحكومات المحلية والوطنية والدولية، وما إلى ذلك – كله بطيء وغير فعال وعرضة للخطأ.
تخيل لو لم يكن لديك الأخطاء التي يرتكبها البشر. أعتقد أنه من الممكن بناء ذكاء اصطناعي يعكس حقًا أفضل ما لدينا جماعيًا، وفي نهاية المطاف يقدم مقايضات أفضل وأكثر اتساقًا وأكثر عدالة نيابة عنا.
*** هل لا يزال هذا هو الدافع الخاص بك؟ ***
**سليمان:**بالطبع، أعني أنه بعد DeepMind لم أضطر إلى العمل مرة أخرى. بالتأكيد ليس من الضروري أن أكتب كتابًا أو أي شيء من هذا القبيل. المال لم يكن أبدا حافزا. كما تعلمون، المال هو دائما مجرد نتيجة ثانوية.
بالنسبة لي، لم يكن الهدف أبدًا سوى كيفية فعل الخير في العالم وكيفية دفع العالم إلى الأمام بطريقة صحية ومرضية. حتى في عام 2009، عندما بدأت أفكر في دخول مجال التكنولوجيا، كنت أرى أن الذكاء الاصطناعي يمثل طريقة عادلة ودقيقة لتقديم الخدمات في العالم.
***لا يسعني إلا أن أعتقد أنه كان من الأسهل قول ذلك قبل 10 أو 15 عامًا، قبل أن نرى أوجه القصور العديدة في هذه التكنولوجيا. كيف يمكنك أن تظل متفائلاً؟ ***
سليمان: أعتقد أننا نهتم كثيرًا بما إذا كنت متفائلًا أم متشائمًا. هذه طريقة متحيزة تمامًا للنظر إلى الأشياء. لا أريد أن أكون مثل هذا الشخص أيضًا. أريد أن أنظر إلى الفوائد والتهديدات بكتف بارد. من حيث أقف، يمكننا أن نرى بوضوح شديد أنه مع كل خطوة يزداد حجم هذه النماذج اللغوية الكبيرة، تصبح أكثر قابلية للتحكم.
لذلك قبل عامين، كانت المحادثة - التي اعتقدت أنها خاطئة في ذلك الوقت - هي، "أوه، سوف يواصلون خطبهم المسمومة والمثيرة للغضب والمتحيزة والعنصرية." كنت مثل، هذه لقطة سريعة في الوقت المناسب. أعتقد أن ما يتجاهله الناس هو التقدم الذي يتم تحقيقه عامًا بعد عام، ومسار هذا التقدم.
على سبيل المثال، لدينا الآن نماذج مثل Pi التي يمكن التحكم فيها بشكل لا يصدق. لا يمكنك جعل Pi عنصريًا أو كارهًا للمثليين أو متحيزًا جنسيًا أو أي شيء سام. ولا يجوز لك أن تسمح لها بتوجيه إنتاجك للأسلحة البيولوجية أو الكيميائية، أو دعم رغبتك في رمي حجر من خلال نافذة جارك. لا يمكنك-
***يتمسك. أخبرني كيف تمكنت من تحقيق ذلك، حيث غالبًا ما تعتبر هذه مشكلة لم يتم حلها. كيف تتأكد من أن نموذج اللغة الكبير الخاص بك لا يقول أشياء لا تريد أن تقولها؟ ***
سليمان: نعم، من الواضح أنني لا أريد تقديم هذا الطلب - كما تعلم، يرجى تجربته! Pi متصل بالإنترنت ويجب عليك تجربة كل الهجمات المحتملة. لن يعمل كسر الحماية أو القرصنة الفورية أو أي شيء آخر على Pi. لن أقدم مطالبة. هذه حقيقة موضوعية.
بخصوص الكيفية - أعني أنني لن أخوض في الكثير من التفاصيل لأنها حساسة. لكن الأهم من ذلك هو أن لدينا واحدًا من أقوى الفرق في العالم والذي قام بإنشاء أكبر النماذج اللغوية في السنوات الثلاث أو الأربع الماضية. أشخاص مذهلون، يقومون بالكثير من العمليات الحسابية في بيئة مجتهدة للغاية. لقد وضعنا السلامة أولاً منذ البداية، لذا فإن Pi ليس حارًا مثل موديلات الشركات الأخرى.
تحقق من Character.ai. [الشخصية عبارة عن برنامج دردشة يمكن للمستخدمين إنشاء "شخصيات" مختلفة لها ومشاركتها عبر الإنترنت ليتمكن الآخرون من الدردشة معها. ] إنه في المقام الأول من أجل لعب الأدوار الرومانسية، وقد قلنا منذ البداية أن هذا غير ممكن - لن نفعل ذلك. إذا حاولت أن تقول "مرحبًا عزيزتي" أو "مرحبًا يا كتي" لـ Pi "وسوف يفعل ذلك أرفضك على الفور.
ولكن سيكون من الاحترام بشكل لا يصدق. إذا بدأت في الشكوى من استيلاء المهاجرين في مجتمعك على وظائفك، فلن يصرخ عليك أو يلوح بإصبعه عليك. يطلب باي الدعم ويقدمه، محاولًا فهم مصدر هذه المعلومات، ويشجعك بلطف على التعاطف. كما تعلمون، هذه هي القيمة التي كنت أفكر فيها لمدة 20 عامًا.
*** تحدث عن قيمك ورغبتك في جعل العالم مكانًا أفضل، فلماذا لا تشارك كيف تفعل ذلك حتى يتمكن الآخرون من تحسين نماذجهم أيضًا؟ ***
سليمان: حسنًا، لأنني أيضًا شخص عملي وأحاول كسب المال. أحاول أن أبدأ عملاً تجاريًا. لقد جمعت للتو 1.5 مليار دولار، وأحتاج إلى دفع ثمن تلك الرقائق.
انظر، النظام البيئي مفتوح المصدر يزدهر ويقوم بعمل رائع، والناس يكتشفون حيلًا مماثلة. أفترض دائمًا أنني متقدم بستة أشهر فقط.
*** دعنا نعود إلى ما تريد تحقيقه. من الواضح أن النماذج اللغوية الكبيرة هي التكنولوجيا الحالية. ولكن لماذا لا تزال تراهن عليهم؟ ***
سليمان: كانت الموجة الأولى من الذكاء الاصطناعي تدور حول التصنيف. يوضح التعلم العميق أنه يمكننا تدريب أجهزة الكمبيوتر على تصنيف أنواع مختلفة من بيانات الإدخال: الصور والفيديو والصوت واللغة. نحن الآن في الموجة التوليدية، حيث تأخذ البيانات المدخلة وتولد بيانات جديدة.
ستكون الموجة الثالثة هي المرحلة التفاعلية. ولهذا السبب كنت أعتقد منذ فترة طويلة أن المحادثات هي واجهة المستقبل. كما تعلم، ستتحدث إلى الذكاء الاصطناعي الخاص بك بدلاً من مجرد النقر على الأزرار والكتابة.
ستكون أنظمة الذكاء الاصطناعي هذه قادرة على اتخاذ الإجراءات اللازمة. ما عليك سوى أن تعطيه هدفًا شاملاً ورفيع المستوى وسيستخدم كل الأدوات المتاحة له لتحقيق هذا الهدف. إنهم يتحدثون إلى أشخاص آخرين، إلى أنظمة الذكاء الاصطناعي الأخرى. وهذا ما سنفعله مع باي.
وهذا تحول هائل يمكن أن تتيحه التكنولوجيا. هذه لحظة عميقة للغاية في تاريخ التكنولوجيا والتي أعتقد أن الكثير من الناس يقللون من شأنها. تكنولوجيا اليوم ثابتة. بشكل تقريبي، فإنه يفعل ما تطلب منه القيام به.
لكن التكنولوجيا الآن على وشك أن تعود إلى الحياة. إذا أعطيته، سيكون لديه الحرية المحتملة في التصرف. نحن نصنع أدوات بهذا النوع من الفاعلية، وهو ما يمثل بالفعل خطوة تغيير في تاريخ جنسنا البشري.
***هذا هو بالضبط البيان الذي يقلق الكثير من الناس. أنت تريد أن تمنح الآلات استقلالية - وكالة - للتأثير على العالم، ولكننا نريد أيضًا أن نكون قادرين على التحكم فيها. كيف توازن بين هذين الأمرين؟ أشعر أن هذا سوف يوتر العلاقة. ***
سليمان: نعم، هذه نقطة جيدة. وهذا ما يجعل الناس متوترين.
والفكرة هي أن البشر سيظلون في موقع القيادة دائمًا. يتعلق الأمر في الأساس بوضع الحدود التي لا يستطيع الذكاء الاصطناعي تجاوزها. والتأكد من أن هذه الحدود تخلق أمانًا يمكن إثباته، بدءًا من الكود الفعلي، إلى الطريقة التي تتفاعل بها مع أنظمة الذكاء الاصطناعي الأخرى (أو البشر)، إلى دوافع وحوافز الشركات التي تصنع التكنولوجيا. ويتعين علينا أن نكتشف كيف يمكن للوكالات المستقلة وحتى الحكومات أن تتدخل مباشرة لضمان عدم تجاوز هذه الخطوط.
*** من يضع هذه الحدود؟ أعتقد أنه يجب تحديدها على المستوى الوطني أو الدولي. كيف توصلوا إلى اتفاق؟ ***
سليمان: أعني أنه يتم طرح هذه الأمور على المستوى الدولي الآن بجميع أنواع المقترحات الخاصة بهيئات رقابية جديدة. لكن الحدود تلعب دورًا أيضًا على المستوى الجزئي. ستمنح الذكاء الاصطناعي الخاص بك بعض الأذونات المحدودة لمعالجة بياناتك الشخصية، مما يوفر لك إجابات لبعض الأسئلة دون غيرها.
بشكل عام، أعتقد أننا يجب أن نكون حذرين للغاية بشأن، أو حتى نستبعد، قدرات معينة في المستقبل المنظور.
***على سبيل المثال؟ ***
سليمان: أعتقد أنه نوع من التحسين الذاتي المتكرر. لا تريد أن يقوم الذكاء الاصطناعي الصغير الخاص بك بتدوير وتحديث التعليمات البرمجية الخاصة به دون إشرافك. وربما ينبغي أن يكون نشاطًا مرخصًا، كما تعلمون، مثل التعامل مع الجمرة الخبيثة أو المواد النووية.
أو أننا لا نسمح بالطائرات بدون طيار في أي مكان عام، أليس كذلك؟ هذا نشاط مرخص. لا يمكنك أخذها إلى أي مكان تريده لأنها تشكل تهديدًا لخصوصية الأشخاص.
أعتقد أن الجميع يشعرون بالذعر لأنهم يعتقدون أننا لا نستطيع تنظيم هذا الأمر. ولكن هذا مجرد هراء. ونحن قادرون تماما على تنظيمه. سوف نطبق نفس الإطار الذي نجح من قبل.
***ولكن يمكنك رؤية الطائرات بدون طيار عندما تكون في السماء. يبدو من السذاجة الاعتقاد بأن الشركات لن تكشف إلا عما تصنعه. ألا يجعل ذلك التنظيم صعبا؟ ***
نحن نراقب الكثير من الأشياء عبر الإنترنت، أليس كذلك؟ حجم الاحتيال والنشاط الإجرامي عبر الإنترنت منخفض. نحن نقوم بعمل جيد حقًا فيما يتعلق بالبريد العشوائي. كما تعلمون، بشكل عام، تحسنت [مشكلة] الإباحية الانتقامية، على الرغم من أنها كانت سيئة جدًا قبل ثلاث أو خمس سنوات. من الصعب جدًا العثور على محتوى متطرف أو مواد إرهابية عبر الإنترنت. شراء الأسلحة والمخدرات عبر الإنترنت أمر صعب للغاية.
[ليست كل ادعاءات سليمان مدعومة بالبيانات. لا تزال الجرائم السيبرانية مشكلة عالمية ضخمة. ووفقاً لبعض التقديرات، زادت التكاليف المالية في الولايات المتحدة وحدها أكثر من 100 ضعف على مدى العقد الماضي. تكشف التقارير عن اقتصاد مزدهر في المواد الإباحية العميقة غير التوافقية. المخدرات والأسلحة تباع على وسائل التواصل الاجتماعي. في حين أن بعض المنصات عبر الإنترنت تضطر إلى القيام بعمل أفضل في تصفية المحتوى الضار، إلا أنها تستطيع فعل المزيد. ]
ولذلك، فإن الإنترنت ليس مساحة غير منظمة وغير منضبطة. إنه يحكم. وسوف يصبح الذكاء الاصطناعي عنصرا آخر من مكونات الحكم.
ويتطلب هذا مزيجاً من الضغوط الثقافية، والضغوط المؤسسية، والتنظيم الحكومي. لكن هذا يجعلني متفائلاً بأننا فعلنا ذلك من قبل ويمكننا القيام بذلك مرة أخرى.
*** سيصبح التحكم في الذكاء الاصطناعي فرعًا من تنظيم الإنترنت - وهو أمر أكثر تفاؤلاً بكثير مما سمعناه من بعض المتشائمين البارزين مؤخرًا. ***
سليمان: أنا متفائل جدًا بشأن المخاطر. هناك الكثير من الأشياء المظلمة في كتبي. لقد رأيت ذلك بالتأكيد أيضًا. أعتقد فقط أن هناك شيئًا محفوفًا بالمخاطر في هذا الأمر وهو إلهاء مجنون تمامًا. 101 قضية عملية أخرى يجب أن نناقشها جميعًا، من الخصوصية إلى التحيز، ومن التعرف على الوجه إلى الإشراف على الإنترنت.
يجب أن نعيد تركيز المحادثة على حقيقة أننا نقوم بعمل جيد حقًا في تنظيم الأشياء فائقة التعقيد. انظر إلى إدارة الطيران الفيدرالية: إنه أمر لا يصدق أننا جميعًا نخضع للتنظيم على ارتفاع 40 ألف قدم، وهي واحدة من أكثر وسائل النقل أمانًا على الإطلاق. لماذا لا نحتفل؟ أو فكر في السيارة: يتم اختبار كل جزء منها في نهاية عمرها الافتراضي، ويجب أن يكون لديك رخصة قيادة للقيام بذلك.
لقد قامت بعض الصناعات، مثل شركات الطيران، بعمل جيد في تنظيم نفسها منذ البداية. إنهم يعلمون أنهم إذا لم يحافظوا على سلامة الأمور، فسيشعر الجميع بالخوف وسيخسرون أعمالهم.
لكنك تحتاج أيضًا إلى التنظيم من أعلى إلى أسفل. أنا أؤمن بالمصلحة العامة، وأؤمن بفوائد الضرائب وإعادة التوزيع، وأؤمن بقوة التنظيم. ما أدعو إليه هو أن تتحرك الدولة لحل المشكلة. ونظراً لحجم ما هو على المحك، فقد حان الوقت الآن لاتخاذ الإجراءات اللازمة.
مراجع:
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
مقابلة حصرية مع مؤسس DeepMind: الذكاء الاصطناعي التوليدي هو مجرد مرحلة، والخطوة التالية هي الذكاء الاصطناعي التفاعلي
المصدر الأصلي: مختبر AGI للابتكار
أراد مصطفى سليمان، المؤسس المشارك لشركة DeepMind، إنشاء روبوت دردشة يمكن استخدامه لأكثر من مجرد الدردشة. في محادثة حديثة معه، أخبرني أن الذكاء الاصطناعي التوليدي هو مجرد مرحلة. التالي هو الذكاء الاصطناعي التفاعلي: الروبوتات التي يمكنها إكمال المهام التي تحددها لها عن طريق الاتصال ببرامج أخرى وأشخاص آخرين. كما دعا إلى تنظيم أقوى للذكاء الاصطناعي، بحجة أن تحقيق ذلك لن يكون صعبا.
سليمان ليس الوحيد الذي يتحدث عن مستقبل مليء بالمزيد من البرمجيات المستقلة. ولكن على عكس معظم الناس، فهو يمتلك شركة جديدة تبلغ قيمتها مليارات الدولارات، وهي Inflection، مع مجموعة من أفضل مواهب الذكاء الاصطناعي مختارة من DeepMind وMeta وOpenAI، كما توصل إلى اتفاق مع Nvidia، أكبر شركة مصنعة لرقائق الذكاء الاصطناعي. . سليمان يمارس ما يبشر به، وقد استثمر أموالا كثيرة.
ترك سليمان شركة DeepMind ثم انتقل إلى Google ليقود فريقًا مخصصًا لسياسة الذكاء الاصطناعي. وفي عام 2022، أسس شركة Inflection، إحدى أهم شركات الذكاء الاصطناعي الجديدة، وهي مدعومة باستثمار قدره 1.5 مليار دولار أمريكي من Microsoft وNVIDIA وبيل جيتس ومؤسس LinkedIn ريد هوفمان، لتصبح الشركة الوحيدة التي تتمتع بأكبر حجم تمويل. إلى OpenAI. وفي وقت سابق من هذا العام، أطلق Pi، وهو منافس لـ ChatGPT. وقد شارك للتو في تأليف كتاب مع المؤلف والباحث مايكل باسكار حول مستقبل الذكاء الاصطناعي بعنوان "الموجة القادمة: التكنولوجيا والقوة وأعظم معضلات القرن الحادي والعشرين".
قد يسخر الكثيرون من تفاؤل سليمان التكنولوجي، وحتى سذاجته. على سبيل المثال، بعض ادعاءاته حول نجاح الشرطة عبر الإنترنت تبدو غير صحيحة. لكنه ظل على قناعة بأن معتقداته صادقة وإنجيلية.
في الواقع، يتمتع سليمان بخلفية غير عادية باعتباره مليونيرًا في مجال التكنولوجيا. وفي سن التاسعة عشرة، ترك الكلية وأسس الخط الساخن للشباب الإسلامي، الذي يقدم الاستشارات الهاتفية. كما عمل في الحكومة المحلية. وقال إنه يجلب العديد من القيم من تلك الجهود إلى "إنفليكشن". الفرق هو أنه قد يكون الآن قادرًا على إجراء التغييرات التي أرادها دائمًا - للأفضل أو للأسوأ.
تم تحرير المقابلة التالية من أجل الطول والوضوح.
*** بدا أن حياتك المهنية المبكرة، والتي تضمنت العمل في خط مساعدة الشباب والحكومة المحلية، تتعارض مع روح وادي السيليكون. ومن الواضح أن هذه التجارب مهمة بالنسبة لك. منذ ذلك الحين، وأنت تعمل في مجال الذكاء الاصطناعي منذ 15 عامًا، وشاركت هذا العام في تأسيس ثاني شركة لك في مجال الذكاء الاصطناعي تبلغ قيمتها مليار دولار. هل يمكنك ربط النقاط بين هذه التجارب؟ ***
سليمان: كنت دائمًا مهتمًا بالسلطة والسياسة وما إلى ذلك. كما تعلمون، فإن مبادئ حقوق الإنسان هي في الأساس مقايضة، ومفاوضات مستمرة بين كل هذه التوترات الصراعية المختلفة. أستطيع أن أرى البشر يعانون من هذا - فنحن مليئون بتحيزاتنا ونقاطنا العمياء. إن عمل الناشطين، والحكومات المحلية والوطنية والدولية، وما إلى ذلك – كله بطيء وغير فعال وعرضة للخطأ.
تخيل لو لم يكن لديك الأخطاء التي يرتكبها البشر. أعتقد أنه من الممكن بناء ذكاء اصطناعي يعكس حقًا أفضل ما لدينا جماعيًا، وفي نهاية المطاف يقدم مقايضات أفضل وأكثر اتساقًا وأكثر عدالة نيابة عنا.
*** هل لا يزال هذا هو الدافع الخاص بك؟ ***
**سليمان:**بالطبع، أعني أنه بعد DeepMind لم أضطر إلى العمل مرة أخرى. بالتأكيد ليس من الضروري أن أكتب كتابًا أو أي شيء من هذا القبيل. المال لم يكن أبدا حافزا. كما تعلمون، المال هو دائما مجرد نتيجة ثانوية.
بالنسبة لي، لم يكن الهدف أبدًا سوى كيفية فعل الخير في العالم وكيفية دفع العالم إلى الأمام بطريقة صحية ومرضية. حتى في عام 2009، عندما بدأت أفكر في دخول مجال التكنولوجيا، كنت أرى أن الذكاء الاصطناعي يمثل طريقة عادلة ودقيقة لتقديم الخدمات في العالم.
***لا يسعني إلا أن أعتقد أنه كان من الأسهل قول ذلك قبل 10 أو 15 عامًا، قبل أن نرى أوجه القصور العديدة في هذه التكنولوجيا. كيف يمكنك أن تظل متفائلاً؟ ***
سليمان: أعتقد أننا نهتم كثيرًا بما إذا كنت متفائلًا أم متشائمًا. هذه طريقة متحيزة تمامًا للنظر إلى الأشياء. لا أريد أن أكون مثل هذا الشخص أيضًا. أريد أن أنظر إلى الفوائد والتهديدات بكتف بارد. من حيث أقف، يمكننا أن نرى بوضوح شديد أنه مع كل خطوة يزداد حجم هذه النماذج اللغوية الكبيرة، تصبح أكثر قابلية للتحكم.
لذلك قبل عامين، كانت المحادثة - التي اعتقدت أنها خاطئة في ذلك الوقت - هي، "أوه، سوف يواصلون خطبهم المسمومة والمثيرة للغضب والمتحيزة والعنصرية." كنت مثل، هذه لقطة سريعة في الوقت المناسب. أعتقد أن ما يتجاهله الناس هو التقدم الذي يتم تحقيقه عامًا بعد عام، ومسار هذا التقدم.
على سبيل المثال، لدينا الآن نماذج مثل Pi التي يمكن التحكم فيها بشكل لا يصدق. لا يمكنك جعل Pi عنصريًا أو كارهًا للمثليين أو متحيزًا جنسيًا أو أي شيء سام. ولا يجوز لك أن تسمح لها بتوجيه إنتاجك للأسلحة البيولوجية أو الكيميائية، أو دعم رغبتك في رمي حجر من خلال نافذة جارك. لا يمكنك-
***يتمسك. أخبرني كيف تمكنت من تحقيق ذلك، حيث غالبًا ما تعتبر هذه مشكلة لم يتم حلها. كيف تتأكد من أن نموذج اللغة الكبير الخاص بك لا يقول أشياء لا تريد أن تقولها؟ ***
سليمان: نعم، من الواضح أنني لا أريد تقديم هذا الطلب - كما تعلم، يرجى تجربته! Pi متصل بالإنترنت ويجب عليك تجربة كل الهجمات المحتملة. لن يعمل كسر الحماية أو القرصنة الفورية أو أي شيء آخر على Pi. لن أقدم مطالبة. هذه حقيقة موضوعية.
بخصوص الكيفية - أعني أنني لن أخوض في الكثير من التفاصيل لأنها حساسة. لكن الأهم من ذلك هو أن لدينا واحدًا من أقوى الفرق في العالم والذي قام بإنشاء أكبر النماذج اللغوية في السنوات الثلاث أو الأربع الماضية. أشخاص مذهلون، يقومون بالكثير من العمليات الحسابية في بيئة مجتهدة للغاية. لقد وضعنا السلامة أولاً منذ البداية، لذا فإن Pi ليس حارًا مثل موديلات الشركات الأخرى.
تحقق من Character.ai. [الشخصية عبارة عن برنامج دردشة يمكن للمستخدمين إنشاء "شخصيات" مختلفة لها ومشاركتها عبر الإنترنت ليتمكن الآخرون من الدردشة معها. ] إنه في المقام الأول من أجل لعب الأدوار الرومانسية، وقد قلنا منذ البداية أن هذا غير ممكن - لن نفعل ذلك. إذا حاولت أن تقول "مرحبًا عزيزتي" أو "مرحبًا يا كتي" لـ Pi "وسوف يفعل ذلك أرفضك على الفور.
ولكن سيكون من الاحترام بشكل لا يصدق. إذا بدأت في الشكوى من استيلاء المهاجرين في مجتمعك على وظائفك، فلن يصرخ عليك أو يلوح بإصبعه عليك. يطلب باي الدعم ويقدمه، محاولًا فهم مصدر هذه المعلومات، ويشجعك بلطف على التعاطف. كما تعلمون، هذه هي القيمة التي كنت أفكر فيها لمدة 20 عامًا.
*** تحدث عن قيمك ورغبتك في جعل العالم مكانًا أفضل، فلماذا لا تشارك كيف تفعل ذلك حتى يتمكن الآخرون من تحسين نماذجهم أيضًا؟ ***
سليمان: حسنًا، لأنني أيضًا شخص عملي وأحاول كسب المال. أحاول أن أبدأ عملاً تجاريًا. لقد جمعت للتو 1.5 مليار دولار، وأحتاج إلى دفع ثمن تلك الرقائق.
انظر، النظام البيئي مفتوح المصدر يزدهر ويقوم بعمل رائع، والناس يكتشفون حيلًا مماثلة. أفترض دائمًا أنني متقدم بستة أشهر فقط.
*** دعنا نعود إلى ما تريد تحقيقه. من الواضح أن النماذج اللغوية الكبيرة هي التكنولوجيا الحالية. ولكن لماذا لا تزال تراهن عليهم؟ ***
سليمان: كانت الموجة الأولى من الذكاء الاصطناعي تدور حول التصنيف. يوضح التعلم العميق أنه يمكننا تدريب أجهزة الكمبيوتر على تصنيف أنواع مختلفة من بيانات الإدخال: الصور والفيديو والصوت واللغة. نحن الآن في الموجة التوليدية، حيث تأخذ البيانات المدخلة وتولد بيانات جديدة.
ستكون الموجة الثالثة هي المرحلة التفاعلية. ولهذا السبب كنت أعتقد منذ فترة طويلة أن المحادثات هي واجهة المستقبل. كما تعلم، ستتحدث إلى الذكاء الاصطناعي الخاص بك بدلاً من مجرد النقر على الأزرار والكتابة.
ستكون أنظمة الذكاء الاصطناعي هذه قادرة على اتخاذ الإجراءات اللازمة. ما عليك سوى أن تعطيه هدفًا شاملاً ورفيع المستوى وسيستخدم كل الأدوات المتاحة له لتحقيق هذا الهدف. إنهم يتحدثون إلى أشخاص آخرين، إلى أنظمة الذكاء الاصطناعي الأخرى. وهذا ما سنفعله مع باي.
وهذا تحول هائل يمكن أن تتيحه التكنولوجيا. هذه لحظة عميقة للغاية في تاريخ التكنولوجيا والتي أعتقد أن الكثير من الناس يقللون من شأنها. تكنولوجيا اليوم ثابتة. بشكل تقريبي، فإنه يفعل ما تطلب منه القيام به.
لكن التكنولوجيا الآن على وشك أن تعود إلى الحياة. إذا أعطيته، سيكون لديه الحرية المحتملة في التصرف. نحن نصنع أدوات بهذا النوع من الفاعلية، وهو ما يمثل بالفعل خطوة تغيير في تاريخ جنسنا البشري.
***هذا هو بالضبط البيان الذي يقلق الكثير من الناس. أنت تريد أن تمنح الآلات استقلالية - وكالة - للتأثير على العالم، ولكننا نريد أيضًا أن نكون قادرين على التحكم فيها. كيف توازن بين هذين الأمرين؟ أشعر أن هذا سوف يوتر العلاقة. ***
سليمان: نعم، هذه نقطة جيدة. وهذا ما يجعل الناس متوترين.
والفكرة هي أن البشر سيظلون في موقع القيادة دائمًا. يتعلق الأمر في الأساس بوضع الحدود التي لا يستطيع الذكاء الاصطناعي تجاوزها. والتأكد من أن هذه الحدود تخلق أمانًا يمكن إثباته، بدءًا من الكود الفعلي، إلى الطريقة التي تتفاعل بها مع أنظمة الذكاء الاصطناعي الأخرى (أو البشر)، إلى دوافع وحوافز الشركات التي تصنع التكنولوجيا. ويتعين علينا أن نكتشف كيف يمكن للوكالات المستقلة وحتى الحكومات أن تتدخل مباشرة لضمان عدم تجاوز هذه الخطوط.
*** من يضع هذه الحدود؟ أعتقد أنه يجب تحديدها على المستوى الوطني أو الدولي. كيف توصلوا إلى اتفاق؟ ***
سليمان: أعني أنه يتم طرح هذه الأمور على المستوى الدولي الآن بجميع أنواع المقترحات الخاصة بهيئات رقابية جديدة. لكن الحدود تلعب دورًا أيضًا على المستوى الجزئي. ستمنح الذكاء الاصطناعي الخاص بك بعض الأذونات المحدودة لمعالجة بياناتك الشخصية، مما يوفر لك إجابات لبعض الأسئلة دون غيرها.
بشكل عام، أعتقد أننا يجب أن نكون حذرين للغاية بشأن، أو حتى نستبعد، قدرات معينة في المستقبل المنظور.
***على سبيل المثال؟ ***
سليمان: أعتقد أنه نوع من التحسين الذاتي المتكرر. لا تريد أن يقوم الذكاء الاصطناعي الصغير الخاص بك بتدوير وتحديث التعليمات البرمجية الخاصة به دون إشرافك. وربما ينبغي أن يكون نشاطًا مرخصًا، كما تعلمون، مثل التعامل مع الجمرة الخبيثة أو المواد النووية.
أو أننا لا نسمح بالطائرات بدون طيار في أي مكان عام، أليس كذلك؟ هذا نشاط مرخص. لا يمكنك أخذها إلى أي مكان تريده لأنها تشكل تهديدًا لخصوصية الأشخاص.
أعتقد أن الجميع يشعرون بالذعر لأنهم يعتقدون أننا لا نستطيع تنظيم هذا الأمر. ولكن هذا مجرد هراء. ونحن قادرون تماما على تنظيمه. سوف نطبق نفس الإطار الذي نجح من قبل.
***ولكن يمكنك رؤية الطائرات بدون طيار عندما تكون في السماء. يبدو من السذاجة الاعتقاد بأن الشركات لن تكشف إلا عما تصنعه. ألا يجعل ذلك التنظيم صعبا؟ ***
نحن نراقب الكثير من الأشياء عبر الإنترنت، أليس كذلك؟ حجم الاحتيال والنشاط الإجرامي عبر الإنترنت منخفض. نحن نقوم بعمل جيد حقًا فيما يتعلق بالبريد العشوائي. كما تعلمون، بشكل عام، تحسنت [مشكلة] الإباحية الانتقامية، على الرغم من أنها كانت سيئة جدًا قبل ثلاث أو خمس سنوات. من الصعب جدًا العثور على محتوى متطرف أو مواد إرهابية عبر الإنترنت. شراء الأسلحة والمخدرات عبر الإنترنت أمر صعب للغاية.
[ليست كل ادعاءات سليمان مدعومة بالبيانات. لا تزال الجرائم السيبرانية مشكلة عالمية ضخمة. ووفقاً لبعض التقديرات، زادت التكاليف المالية في الولايات المتحدة وحدها أكثر من 100 ضعف على مدى العقد الماضي. تكشف التقارير عن اقتصاد مزدهر في المواد الإباحية العميقة غير التوافقية. المخدرات والأسلحة تباع على وسائل التواصل الاجتماعي. في حين أن بعض المنصات عبر الإنترنت تضطر إلى القيام بعمل أفضل في تصفية المحتوى الضار، إلا أنها تستطيع فعل المزيد. ]
ولذلك، فإن الإنترنت ليس مساحة غير منظمة وغير منضبطة. إنه يحكم. وسوف يصبح الذكاء الاصطناعي عنصرا آخر من مكونات الحكم.
ويتطلب هذا مزيجاً من الضغوط الثقافية، والضغوط المؤسسية، والتنظيم الحكومي. لكن هذا يجعلني متفائلاً بأننا فعلنا ذلك من قبل ويمكننا القيام بذلك مرة أخرى.
*** سيصبح التحكم في الذكاء الاصطناعي فرعًا من تنظيم الإنترنت - وهو أمر أكثر تفاؤلاً بكثير مما سمعناه من بعض المتشائمين البارزين مؤخرًا. ***
سليمان: أنا متفائل جدًا بشأن المخاطر. هناك الكثير من الأشياء المظلمة في كتبي. لقد رأيت ذلك بالتأكيد أيضًا. أعتقد فقط أن هناك شيئًا محفوفًا بالمخاطر في هذا الأمر وهو إلهاء مجنون تمامًا. 101 قضية عملية أخرى يجب أن نناقشها جميعًا، من الخصوصية إلى التحيز، ومن التعرف على الوجه إلى الإشراف على الإنترنت.
يجب أن نعيد تركيز المحادثة على حقيقة أننا نقوم بعمل جيد حقًا في تنظيم الأشياء فائقة التعقيد. انظر إلى إدارة الطيران الفيدرالية: إنه أمر لا يصدق أننا جميعًا نخضع للتنظيم على ارتفاع 40 ألف قدم، وهي واحدة من أكثر وسائل النقل أمانًا على الإطلاق. لماذا لا نحتفل؟ أو فكر في السيارة: يتم اختبار كل جزء منها في نهاية عمرها الافتراضي، ويجب أن يكون لديك رخصة قيادة للقيام بذلك.
لقد قامت بعض الصناعات، مثل شركات الطيران، بعمل جيد في تنظيم نفسها منذ البداية. إنهم يعلمون أنهم إذا لم يحافظوا على سلامة الأمور، فسيشعر الجميع بالخوف وسيخسرون أعمالهم.
لكنك تحتاج أيضًا إلى التنظيم من أعلى إلى أسفل. أنا أؤمن بالمصلحة العامة، وأؤمن بفوائد الضرائب وإعادة التوزيع، وأؤمن بقوة التنظيم. ما أدعو إليه هو أن تتحرك الدولة لحل المشكلة. ونظراً لحجم ما هو على المحك، فقد حان الوقت الآن لاتخاذ الإجراءات اللازمة.
مراجع: