طموحات خارقة.. هل تمثل سياسة "أوبن إيه آي" خطرا على البشرية؟

ما يميّز "أوبن إيه آي" فعلا عن غيرها من الشركات هو الطموح الهائل الذي تسعى لتحقيقه (غيتي)

في الفترة الأخيرة، احتلت شركة أوبن إيه آي مكانة استثنائية في الأوساط التقنية، فربما أشهر منتجات مجال الذكاء الاصطناعي التوليدي حاليا هي منتجاتها، خاصة بعد إطلاقها روبوت المحادثة الأشهر "شات جي بي تي" في نهاية نوفمبر/تشرين الثاني عام 2022.

كما أن اقتراب عقد الصفقة مع شركة آبل، لكي يعمل "شات جي بي تي" داخل هواتف الآيفون، يضع الشركة الناشئة بين أكبر شركتين في العالم حاليا: مايكروسوفت وآبل، ويمنحها الفرصة لتعمل في مجال الشركات مع عملاء مايكروسوفت، بجانب الاستفادة من مواردها الضخمة، كما ستستفيد من عملاء شركة آبل ومستخدمي أجهزتها كهواتف الآيفون.

لكن ما يميّز "أوبن إيه آي" فعلا عن غيرها من الشركات هو الطموح الهائل الذي تسعى لتحقيقه، فهي لا تكتفِ بما وصلت إليه من إنجازات، بل تذكر أنها تحاول تطوير الذكاء الاصطناعي العام (AGI)، الذي من المفترض أن يكون نظاما بإمكانه أداء المهام بمستويات التفكير البشري أو ربما يتجاوزها في العديد من المجالات، لهذا من المفترض أن تملك الشركة سياسة واضحة للأمان والسلامة، في حال سعيها لتطوير مثل هذه النماذج الخارقة في المستقبل القريب.

حل فريق المخاطر

في شهر يوليو/تموز من العام الماضي، أعلنت شركة أوبن إيه آي عن تشكيل فريق بحثي جديد يتولى مهمة الاستعداد لتطوير ذكاء اصطناعي "خارق الذكاء"، بإمكانه التفوق على مبتكريه والتغلب عليهم.

واختارت الشركة حينها إيليا سوتسكيفر، رئيس الباحثين وأحد مؤسسيها، ليكون قائدا مشاركا لهذا الفريق الجديد مع جان ليكه، وذكرت "أوبن إيه آي" وقتها أن الفريق سيحظى بنسبة 20% من طاقتها الحاسوبية على مدار 4 سنوات.

وكانت مهمة الفريق الأساسية هي التركيز على "الإنجازات العلمية والتقنية لتوجيه أنظمة الذكاء الاصطناعي الأكثر ذكاء منا والتحكم فيها".

منذ عدة أشهر، كادت شركة أوبن إيه آي تخسر موظفيها المهتمين للغاية بضمان أمان أنظمة الذكاء الاصطناعي التي تطورها الشركة.

والآن، بدأت الشركة في الاستغناء عنهم نهائيا، إذ قررت الإدارة، بقيادة رئيسها التنفيذي سام ألتمان، حل هذا الفريق الذي كان يركز على المخاطر طويلة الأمد للذكاء الاصطناعي بعد عام واحد من إعلانها تشكيله، وفقا لما أكده شخص مطلع على الوضع لشبكة "سي إن بي سي" منذ عدة أيام.

وذكر الشخص، الذي تحدث بشرط عدم الكشف عن هويته، أن بعض أعضاء الفريق قد أُعيد تعيينهم في عدة فرق أخرى داخل الشركة.

وقبل هذا الخبر بأيام قليلة، أعلن قائدا الفريق إيليا سوتسكيفر وجان ليكه رحيلهما عن الشركة الناشئة، ولم يكشف سوتسكيفر أسباب رحيله، لكن ليكه أوضح بعض التفاصيل حول سبب مغادرته الشركة، وذكر عبر حسابه على منصة إكس: "إن صنع آلات أكثر ذكاء من البشر مسعى محفوف بالمخاطر بطبيعته. تتحمل أوبن إيه آي مسؤولية هائلة نيابة عن البشرية بأسرها. ولكن على مدى السنوات الماضية، تراجعت ثقافة السلامة وعملياتها على حساب المنتجات البرّاقة".

إن كنا داخل أحد أفلام هوليوود، فربما نعتقد أن الشركة قد اكتشفت سرا خطيرا في أحد أنظمة الذكاء الاصطناعي، أو طورت نموذجا خارقا على وشك تدمير البشرية، ولهذا قررت التخلص من فريق مخاطر الذكاء الاصطناعي، لكننا لسنا داخل أحد أفلام هوليوود، وربما يرجع الأمر في النهاية إلى سام ألتمان نفسه، ومدى قوته التي فرضها على الشركة خلال الفترة الماضية.

أشارت عدة مصادر من داخل الشركة أن هؤلاء الموظفين فقدوا ثقتهم في سام ألتمان، الرئيس التنفيذي للشركة، وفي أسلوب قيادته، وهذا ما أوضحه ليكه في منشوره على منصة إكس حول سبب استقالته قائلا "كنت أختلف مع إدارة أوبن إيه آي حول أولويات الشركة الجوهرية منذ فترة طويلة، إلى أن وصلنا أخيرا إلى نهاية الطريق".

Sam Altman, chief executive officer of OpenAI, during a panel session on day three of the World Economic Forum (WEF) in Davos, Switzerland, on Thursday, Jan. 18, 2024. The annual Davos gathering of political leaders, top executives and celebrities runs from January 15 to 19. Photographer: Stefan Wermuth/Bloomberg via Getty Images
إيليا سوتسكيفر وجان ليكه فقدا ثقتهما في سام ألتمان  (غيتي)

محاولة انقلاب فاشلة

لكي نحاول فهم أسباب ما حدث، علينا العودة بالزمن قليلا، تحديدا إلى شهر نوفمبر/تشرين الثاني الماضي، وذلك عندما حاول إيليا سوتسكيفر، بالتعاون مع مجلس إدارة الشركة، طرد سام ألتمان نفسه، حينها ذكر المشاركون في هذا الانقلاب أن "ألتمان لم يكن صريحا باستمرار في تواصله مع مجلس الإدارة"، بمعنى أنهم لا يثقون به، ولذا قرروا التصرف سريعا والتخلص منه.

لكن المشكلة بدأت تزداد تعقيدا يوما تلو الآخر، وذكرت صحيفة وول ستريت جورنال وغيرها من وسائل الإعلام أن سوتسكيفر وجه تركيزه على ضمان عدم إلحاق الذكاء الاصطناعي أي أذى بالبشر، بينما حرص آخرون، بمن فيهم ألتمان، على المضي قدما في تطوير التكنولوجيا الجديدة، وهذا قد يوضح لنا طريقة تفكير ألتمان في توجيه مسار الشركة.

المشكلة حدثت عندما لم يسقط سام ألتمان بهذه السهولة، إذ أثارت الإطاحة به موجة من الاستقالات، أو التهديد بالاستقالة، بما في ذلك رسالة مفتوحة موقعة من كافة موظفي الشركة تقريبا، وضجة من المستثمرين، بمن فيهم شركة مايكروسوفت، وهدد ألتمان وحليفه جريج بروكمان، رئيس الشركة وأحد مؤسسيها، بأنهما سيصطحبان أفضل كفاءات الشركة وينتقلان إلى مايكروسوفت، مما يعني تدمير أوبن إيه آي فعليا، إذا لم يُعاد ألتمان إلى منصبه، وفي مواجهة ذلك التهديد، استسلم مجلس الإدارة.

في غضون أسبوع، عاد ألتمان إلى منصبه في "أوبن إيه آي" منتصرا، وخرج أعضاء مجلس الإدارة هيلين تونر وتاشا ماكولي وإيليا سوتسكيفر، الذين صوتوا على الإطاحة بألتمان، وبقي سوتسكيفر حينها ضمن الموظفين ولكن لم يعد عضوا في مجلس الإدارة.

حينها عاد ألتمان أقوى من ذي قبل، وبأعضاء مجلس إدارة جدد أكثر تأييدا وأكثر دعما، وامتلك حرية أكبر في إدارة الشركة.

Ilya Sutskever (Photo credit: Stanford University) Read more at: https://www.ndtvprofit.com/technology/openai-co-founder-ilya-sutskever-announces-exit-from-company Copyright © NDTV Profit
إيليا سوتسكيفر بالتعاون مع مجلس إدارة الشركة حاول طرد سام ألتمان نفسه (جامعة ستانفورد)

سياسة تعظيم المكاسب

ربما كشف رد فعل ألتمان على إقالته شيئا ما حول شخصيته، فتهديده بتصفية شركة أوبن إيه آي ما لم يعيد مجلس الإدارة تعيينه، وإصراره على حشد أعضاء جدد في المجلس يميلون لصالحه، يظهران إصرارا على تمسكه بالسلطة وتجنب أي رقابة أو مساءلة في المستقبل حول ما يفعله.

حتى إن بعض الموظفين السابقين وصفوه بأنه شخص مخادع يتحدث بأمور ويفعل عكسها، فمثلا يدعي ألتمان أنه يرغب في منح الأولوية للسلامة، لكنه يناقض نفسه في تصرفاته وأفعاله عبر سعيه المحموم نحو تطوير تقنيات الذكاء الاصطناعي بوتيرة متسارعة للغاية.

على سبيل المثال، كان ألتمان يسافر في جولات خلال الفتر الماضية إلى الشرق الأوسط، ليجمع الأموال والاستثمارات الضخمة من السعودية والإمارات حتى يتمكن من تأسيس شركة جديدة لتصنيع رقائق المعالجة الخاصة بنماذج الذكاء الاصطناعي، مما سيمنحه إمدادات ضخمة من الموارد المطلوبة لتطوير الذكاء الاصطناعي العام أو الخارق، وهذا ما كان يثير قلق الموظفين المهتمين بالسلامة داخل الشركة.

التخلص من فريق مخاطر الذكاء الاصطناعي بعيدة المدى هو مجرد تأكيد آخر على سياسة الشركة ورئيسها التنفيذي نحو تطوير أقوى الأنظمة الحديثة مهما كان الثمن، فلا داعي لمنح فريق السلامة 20% من قوة الشركة الحاسوبية، وهو أهم مورد لدى أي شركة ذكاء اصطناعي، فربما تعيد الشركة توجيهها نحو عمليات التطوير الأخرى.

وهذا يمكن استنتاجه بسهولة مما ذكره جان ليكه بعد استقالته قائلا "خلال الأشهر القليلة الماضية كان فريقي يُبحر ضد التيار. كنا نعاني أحيانا من نقص الحوسبة، وكان الأمر يزداد صعوبة لإنجاز هذه الأبحاث المهمة".

وفي النهاية هذا ما أكده جان ليكه فعلا، أن ثقافة السلامة وعملياتها تراجعتا داخل الشركة أمام "المنتجات البرّاقة". بالطبع، لا نعرف ما يحمله لنا المستقبل، ولا يمكننا التوقع إن كانت الشركة ستنجح في تطوير الذكاء الاصطناعي العام أم ستفشل، لكن ما قد يصيبنا بالقلق هو ما أصاب فريق السلامة الذي تخلّصت منه "أوبن إيه آي"، وهو ببساطة أن الشركة التي تسعى لتطوير هذا الذكاء الاصطناعي الخارق لا تهتم سوى بتعظيم مكاسبها مهما كانت التحذيرات والمخاطر!

المصدر : الجزيرة + مواقع إلكترونية