عندما يبدأ الناس في الشكوى من أن شركة التكنولوجيا الخاصة بك تدمر العالم ، فإنك تقوم بتعيين رجل مثل روب ليذر. انضم إلى Meta ، الشركة المعروفة سابقًا باسم Facebook ، تمامًا مثل أقنعت فضيحة Cambridge Analytica الجمهور بأن Facebook يمثل تهديدًا وجوديًا للديمقراطية. خلال انتخابات 2020 وفيروس كورونا تفشي الوباء ، قاد ليذر جهودًا لمعالجة الخصوصية والمعلومات المضللة وغيرها من المشكلات في نظام الإعلان على Facebook. بعد الانتخابات مباشرة ، استولت Google عليه ، وأحضرت ليذرن لمنصب نائب الرئيس المسؤول عن المنتجات المتعلقة بالخصوصية والأمن – تمامًا كما شرع المنظمون في جهود استمرت لسنوات لتكثيف التدقيق في عملاق البحث.
الآن بعد عامين في Google ، خرج ليذر. قام بالتغريد أن يوم الجمعة كان آخر يوم له في الشركة. وافق ليذر على القفز على الهاتف مع Gizmodo ، وبينما لم يشرح سبب تركه لشركة Google أو إلى أين سيذهب بعد ذلك ، كان لديه الكثير ليقوله حول موضوع واحد: في هذه الأيام ، الوجه العام للمشاكل الكبيرة في التكنولوجيا الكبيرة يريد التحدث عنه الذكاء الاصطناعي.
ليذرن الخلفية تعطيه نظرة ثاقبة غير عادية على ما يجب يحدث بينما يلف العالم أذهانه حول أدوات مثل الدردشة وكيف تحب الأعمال أوبن إيه آي تنمو أضعافا مضاعفة.
في أوائل عام 2010 ، أدى التفاؤل الأعمى والمال السريع في وادي السيليكون إلى حماية عمالقة التكنولوجيا من النقاد. الأمور مختلفة الآن. وبقدر ما استحوذت روبوتات الدردشة على الذكاء الاصطناعي تقريبًا على انتباه الجمهور ، بدأنا نتحدث عما إذا كانت التكنولوجيا ستدمرنا جميعًا. في المستقبل القريب ، تحتاج شركات مثل OpenAI و Google و Microsoft إلى تكثيف البرامج التي تسمح لها بالقول “إننا نسمع مخاوفك ، لكن لا تقلق ، لقد قمنا بتحكم كل شيء”. يعرف ليذر كيف يدير هذا النوع من العمليات.
قد تحصل G / O Media على عمولة
تم تحرير هذه المقابلة بشكل خفيف من أجل الوضوح.
توماس جيرمان: بالنظر إلى السنوات القليلة الماضية من حياتك المهنية ، فقد كنت شخصًا قفز من شركة إلى أخرى لمعالجة بعض أكبر المشكلات المجتمعية في عالم التكنولوجيا. كيف ترى اللحظة التي نعيشها مع الذكاء الاصطناعي؟
روب ليذرن: نعم. انضممت إلى Facebook للعمل على عناصر النزاهة في عام 2017 ، وهذا يذكرني نوعًا ما بالوضع الذي كنا فيه حينها. يبدو الذكاء الاصطناعي نوعًا ما كما حدث في وسائل التواصل الاجتماعي في 2015 أو 2016 ، كانت هناك فرصة لبناء مجموعة من الأنظمة لمعالجة المشكلات الكبيرة ، لكن لم يقم أحد بذلك حتى الآن. أعتقد أننا في نفس النوع من نقطة الانعطاف ، لكننا نتحرك بسرعة أكبر. أعني ، هذه الأدوات ، بطبيعتها ، لديها الكثير من حلقات التغذية الراجعة المضمنة فيها. إن وتيرة التغيير بشرية ، لذا فهذا هو الوقت المناسب للتفكير في هذه الأشياء.
تيراغرام: لذا أعلم أنك لست خبيرًا تقنيًا في مجال الذكاء الاصطناعي ، ولكن بصفتك خبيرًا في مجال التكنولوجيا ، هل لديك أي أفكار حول مدى تجاوزنا لروبيكون بالضبط؟
RL: أعتقد أن هناك أشخاصًا في وضع أفضل للإجابة عن هذا السؤال مني ، ولكن ما يمكنني قوله هو أن هناك قدرًا لا يُصدق من الزخم الذي يخلق ضغطًا على الأشخاص على كلا الجانبين ، والحافز للتحرك بسرعة يقلقني. هناك الكثير من الضغط على الشركات لمواصلة إحراز تقدم ، أو معرفة كيفية تدريب النموذج التالي ، أو الوصول إلى المرحلة التالية.
ثم ما رأيته من عملي حول الخصوصية خلال السنوات الست الماضية هو أن هناك ضغطًا على الجانب الآخر من العملة أيضًا. يتنافس المنظمون مع بعضهم البعض أيضًا ، ويريد الجميع أن يُنظر إليهم على أنهم يقاومون هذه التطورات. بعبارة أخرى ، هناك حوافز متنافسة في كل اتجاه للتحرك بشكل أسرع وأقل حذرًا مما قد تفعله بخلاف ذلك. في الوقت نفسه ، تواجه بعض الشركات أيضًا ضغوطًا لإيقاف بعض الأشياء أكثر مما قد ترغب في ذلك.
تيراغرام: صحيح ، هناك بعض التوتر الحقيقي هناك. لدى OpenAI حافز للتحرك بأسرع ما يمكن لإثبات نفسها كقائد. لقد أثبت اللاعبون الأكبر سنًا مثل Google و Microsoft أنهم يواصلون المواكبة ، لكن لديهم مسؤولية أكبر في أن يُنظر إليهم على أنهم يتحركون بحذر ومنهجية.
RL: نعم ، سيكون من الممتع حقًا مشاهدة تلك الديناميكيات وهي تتطور. تخضع الشركات الكبرى لمزيد من التدقيق ، لذا يتعين عليها أن تتحرك بشكل أبطأ وأن يكون لديها ضوابط وتوازنات. في بعض الحالات ، سيؤدي ذلك إلى إحباط الأشخاص الموهوبين ورغبتهم في المغادرة. حقًا ، إنه التأثير غير المباشر للتحديات السابقة التي واجهوها حول قضايا مثل الخصوصية والأمان ، واللوائح التي نتجت عن ذلك. هذا له تأثير كبير على خفة الحركة.
تيراغرام: كيف تعمل الشركات على توازن الذكاء الاصطناعي وهي تتحرك بسرعة وتتحرك بمسؤولية؟
RL: نحن في هذه المرحلة الانتقالية حيث يقوم باحثو أخلاقيات الذكاء الاصطناعي الذين كانوا يكتبون أوراق بيضاء بعمل رائع. ولكن ربما حان الوقت الآن للانتقال إلى الأشخاص الذين لديهم المزيد من الخبرة العملية مع السلامة والنزاهة والثقة. هذا سوف يمس الكثير من المجالات المختلفة. يمكن أن تبدو صغيرة مثل مراقبة هويات المطورين في النظام البيئي لواجهة برمجة التطبيقات [the systems that let outside companies access a tech company’s products]. كان هذا أحد الأشياء التي خرجت من قضية Cambridge Analytica في Facebook ، على سبيل المثال. أنت بحاجة إلى البدء في وضع هؤلاء الأشخاص في مكانهم الصحيح ، وافترضي أنهم لم يصلوا بعد عندما يتعلق الأمر بالذكاء الاصطناعي في معظم شركات التكنولوجيا الكبيرة هذه.
تيراغرام: بالنظر إلى المحادثة حول الذكاء الاصطناعي ، يبدو أننا نجري هذه المحادثة في وقت مبكر جدًا من العملية عما فعلناه مع وسائل التواصل الاجتماعي قبل عشر سنوات. هل هذا لأننا تعلمنا بعض الدروس ، أم لأن التكنولوجيا تتحرك بسرعة كبيرة؟
RL: أعتقد أن الأمر يتعلق ببعضهما ، ولا يتعلق الأمر بالسرعة فحسب ، بل إمكانية الوصول إلى هذه الأنظمة. حقيقة أن الكثير من الأشخاص قد لعبوا مع MidJourney أو ChatGPT يمنح الناس إحساسًا بكل من الجوانب الإيجابية والسلبية للتكنولوجيا.
أعتقد أننا تعلمنا بعض الدروس من الماضي أيضًا. وقد رأينا العديد من الشركات تنشئ آليات لمعالجة هذه المخاوف. يعمل جيل كامل من المهندسين ومديري المنتجات والمصممين وعلماء البيانات على حل هذه المشكلات المجتمعية في سياق الشبكات الاجتماعية ، سواء كانت خصوصيتها أو الإشراف على المحتوى أو المعلومات المضللة أو ما لديك.
تيراغرام: كما هو الحال مع العديد من هذه القضايا ، فإن بعض المخاوف بشأن الذكاء الاصطناعي – وليس كلها – غامضة وافتراضية. ما هي الأشياء الكبيرة التي تقلقك؟
RL: حسنًا ، يركز الجميع بشدة على التغييرات الكبيرة ، لكنني أعتقد أنه من المثير للاهتمام أن ننظر إلى بعض ما سيحدث على النطاق الصغير. أعتقد أن المشاكل ستكون أكثر دقة مما اعتدنا عليه. خذ الجانب الآخر من المنتجات المقلدة العميقة. لقد سمعنا عن محتوى تسويق المياه من ChatGPT أو مولدات الصور ، ولكن ما الذي ستثبت أن الصورة التي التقطتها هي صورة حقيقية. يعد وضع علامة على الصور بالموقع ونوع من المعرفات الشخصية أحد الحلول ، ولكنك تقوم بعد ذلك بإنشاء هذه الإشارات الجديدة التي يمكن أن تسبب مشكلات تتعلق بالخصوصية.
مصدر قلق آخر غير واضح هو أنه يمكن لأي شخص استخدام الإصدارات المجانية من هذه الأدوات ، ولكن الإصدارات المدفوعة والأكثر قوة أقل سهولة في الوصول إليها. من المحتمل أن يكون الذكاء الاصطناعي مشكلة من منظور الإنصاف ، مما يخلق طريقة أخرى للأثرياء للحصول على ميزة. سوف يتم تنفيذ ذلك مع الأفراد ، ولكن أيضًا مع الشركات من جانب العميل. ستعمل هذه التكنولوجيا على فصل من يملكون ومن لا يملكون.
تيراغرام: نظرًا لطبيعة هذه التكنولوجيا ، من الصعب تخيل ما يمكن أن يفعله المنظمون حيال ذلك. الحكومة الصديقة للأعمال في الولايات المتحدة ، على سبيل المثال ، ليست على وشك حظر هذه التكنولوجيا. هل هو متأخر كثيرا؟
RL: حسنًا ، هناك متطلبات يمكنك التفكير فيها ويمكن للحكومات وضعها. ربما يتعين عليك تسجيل التكنولوجيا الخاصة بك ، على سبيل المثال ، إذا كنت تستخدم أكثر من x عدد من وحدات معالجة الرسومات أو أيًا كان المقياس الصحيح. لكن لا يزال لديك أشخاص يديرون تقنيتهم غير المرخصة في قبو ، ومهما كان المخطط الذي توصلنا إليه ، فإن الحكومات الأجنبية لن تهتم. أعتقد إلى حد ما أن معجون الأسنان خرج من الأنبوب ، وسيكون من الصعب إعادته إلى هناك.
تيراغرام: لقد كنت أبلغ عن الخصوصية في الجزء الأفضل من عقد من الزمان. في هذا المجال ، يبدو الأمر كما لو أن المنظمين والمشرعين في العام الماضي قد استوعبوا الاقتصاد الرقمي حقًا لأول مرة. يعد الذكاء الاصطناعي مشكلة أكبر يجب أن تلتف حولها. هل تأمل في القدرة على تنظيم هذا الفضاء؟ الاحتمالات تبدو سيئة للغاية.
RL: نحن في وقت صعب للغاية. أعتقد أننا سننتهي بمجموعة من اللوائح التي يتم نسخها ولصقها فقط من أشياء أخرى لا تعمل بشكل جيد مع بعضها البعض. لكن الناس أكثر انسجامًا مع حقائق هذا الوضع. لا أعتقد أن الإجابة الصحيحة هي الإدلاء ببعض التصريحات الفارغة بأننا بحاجة إلى إبطاء الأمور ، لأنه مرة أخرى ، فإن الجهات الفاعلة الأقل حسن النية مثل الصين ستمضي قدمًا.
أحد الدروس المثيرة للاهتمام التي تأتي من العمل على الخصوصية والأمان هو أنه في الأيام الأولى ، كان لديك أشخاص يرون مدى سوء الفجوات ، ويقعون في جانب إغلاق الأشياء. ولكن لكي تكون فعالًا في هذه الأدوار ، يجب أن يكون لديك تقدير لكل من مخاطر الجانب السلبي بالإضافة إلى احتمالية الاتجاه الصعودي. كنت أقول إنك بحاجة إلى أن تكون نوعًا من التشاؤم المتفائل. هناك فرصة لوضع القواعد والسياسات والتطبيقات التي يمكن أن تسمح بالفعل للأشياء الجيدة بالازدهار مع تقليل الأضرار.
تيراغرام: هذا منظور مناسب جدًا للصناعة ، لكن لديك وجهة نظر. حكومتنا ليست على وشك إغلاق OpenAI. الأمل الوحيد هو حل يعمل داخل النظام.
RL: يمين. إذا اتبعت نهج “إغلاق كل شيء” ، حسنًا ، من بين أمور أخرى ، لن يحدث ذلك. أنت بحاجة إلى الأشخاص الخصوم ، لكنك بحاجة إلى متفائلين في محفظتك أيضًا. وانظر ، الشيء الآخر الذي هو صحيح أيضًا هو أنه صعب حقًا ، أليس كذلك؟ لأنك تنشئ أشياء لم تكن موجودة من قبل. لا توجد دائمًا مقارنات رائعة لشيء مثل “كيف أجعل أداة معينة خاصة؟” وكما اعتدت أن أقول عندما كنت أتحدث نيابة عن Facebook ، ستندهش حقًا من مدى الابتكار الذي يمكن أن يكون عليه الأشرار. يفعلون استعراض الحوادث أيضا. يتشاركون المعرفة والبيانات. ستكون مساحة معادية بشكل لا يصدق.
تيراغرام: أريد أن أسألك عن موضوع مختلف تمامًا إذا كنت ستغمرني ، وهو TikTok. ما قلته في تقريري هو أن الكثير من المخاوف مبالغ فيها ، والمناقشات حول حظر TikTok أو ByteDance تبدو وكأنها تمرين عديم الفائدة نظرًا لمدى تسرب تكنولوجيا الإعلان. لكن لديك منظور من داخل مجال التكنولوجيا. هل انا مخطئ
RL: تتفق وجهة نظرك مع مشاعري حيال هذا الأمر. انظر ، من المهم ، كما تعلم ، طرح أسئلة حول ملكية وهيكل هذه المنظمات. لكنني أوافق ، فإن فكرة الحظر لن يكون لها كل الفوائد التي يفترض البعض أنها ستكون لها. تحتاج شركات مثل TikTok إلى قصة أفضل ، وواقع أفضل ، حول الملكية والتحكم ، وأين تتجه بيانات الأشخاص ، وما هي الإشراف والضوابط. لكن حظرها لا يبدو الحل الصحيح.
تيراغرام: من ناحية أخرى ، تسمع TikTok مستمرًا حول هذا “Project Texas” ، حيث يخططون لإيواء جميع البيانات الموجودة على الخوادم في الولايات المتحدة. وبالتأكيد ، إنها فكرة جيدة ، ربما أنت كذلك. لكن الحديث عن الموقع الفعلي للخادم كما لو أن ذلك يجب أن يطمئن أي شخص يبدو سخيفًا. هل هذا له معنى بالنسبة لك؟
RL: هذه الأنظمة معقدة ، ولا يهم القول إن كل شيء موجود على الخادم X مقابل الخادم Y. ما قد يكون مطمئنًا أكثر هو الإشراف الإضافي ، ولكن مرة أخرى ، هذه الأشياء صعبة الإعداد أيضًا. يبحث الناس عن مستوى من اليقين بشأن هذه المسألة يصعب الوصول إليه. في الواقع ، أي يقين نحصل عليه قد يكون مجرد هلوسة.
هل تريد معرفة المزيد عن الذكاء الاصطناعي وروبوتات المحادثة ومستقبل التعلم الآلي؟ تحقق من تغطيتنا الكاملة لـ الذكاء الاصطناعيأو تصفح أدلةنا إلى أفضل مولدات فنية مجانية لمنظمة العفو الدولية و كل ما نعرفه عن ChatGPT الخاص بـ OpenAI.
