هشدار پژوهشگران اوپن ایآی درمورد کشف مهم هوش مصنوعی
تاریخ انتشار: ۷ آذر ۱۴۰۲ | کد خبر: ۳۹۱۷۸۸۲۶
ایتنا - برخی کارکنان شرکت سازنده چت جیپیتی معتقدند این پیشرفت به تلاش این شرکت نوپا برای چیزی که هوش مصنوعی عمومی شناخته میشود مربوط است.
بر پایه گزارشها، پژوهشگران اوپن ایآی پیش از برکناری سم آلتمن، مدیرعامل این شرکت، در مورد کشف هوش مصنوعی احتمالا خطرناک هشدار دادند.
دو نفر از افراد آگاه از این موضوع به رویترز گفتند که چندین نفر از کارکنان این شرکت هوش مصنوعی طی نامهای به هیئتمدیره، جزئیات این الگوریتم را شرح دادند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
پیش از بازگشت او در اواخر روز سهشنبه، بیش از ۷۰۰ کارمند تهدید کرده بودند که برای همبستگی با رئیس اخراجیشان از کار کنارهگیری میکنند و به حامی او، مایکروسافت، میپیوندند.
منابع، این نامه را بهمنزله یکی از عوامل فهرست طولانی شکایتهای هیئتمدیره از جمله نگرانیهایی در مورد تجاریسازی پیشرفتها پیش از درک عواقب آن که به اخراج آلتمن منجر شد، ذکر کردند.
کارمندان نویسنده این نامه به درخواست اظهارنظر پاسخ ندادند و رویترز نتوانست نسخهای از آن را بررسی کند.
یکی از کارکنان گفت، اوپن ایآی از اظهارنظر درباره این نامه خودداری کرد اما در پیامی داخلی برای کارکنان وجود طرحی به نام کیو استار (Q*) و نامه برای هیئت مدیره را پیش از بروز رویدادهای آخرهفته اخیر تایید کرد.
یکی از سخنگویان اوپن ایآی گفت این پیام که میرا موراتی، مدیر اجرایی باسابقه ارسال کرد، در مورد برخی روایتهای رسانهای که بدون توضیحی درمورد درستی آنها منتشر میشوند، به کارکنان هشدار میدهد.
یکی از این افراد به رویترز گفت بعضیها در اوپن ایآی معتقدند که کیو استار میتواند پیشرفتی در تلاش این شرکت نوپا برای چیزی باشد که هوش مصنوعی عمومی (ایجیآی) شناخته میشود.
اوپن ایآی ایجیآی را سیستم خودکاری تعریف میکند که در اغلب کارهایی با ارزش اقتصادی بالا از انسان پیشی میگیرد.
این فرد که اجازه نداشت از طرف این شرکت صحبت کند و به همین دلیل نخواست نامش فاش شود، گفت با توجه به منابع گسترده محاسباتی، این مدل جدید قادر است مسائل خاص ریاضی را حل کند.
این منبع گفت هرچند حل مسائل ریاضی در سطح دانشآموز مقطع ابتدایی بود، چنین آزمونهایی پژوهشگران را به موفقیت آتی کیو استار بسیار خوشبین کرد. رویترز نتوانست توانمندیهای کیو استار را که پژوهشگران ادعا کردهاند، بهطور مستقل تایید کند.
پژوهشگران ریاضیات را مرز توسعه هوش مصنوعی مولد میدانند. اکنون، هوش مصنوعی با پیشبینی آماری کلمه بعدی، در نوشتن و ترجمه زبان ماهر است و پاسخهای آن به یک سوال میتواند بسیار متفاوت باشد. اما تسلط بر توانایی حل مسائل ریاضی که برای آن فقط یک پاسخ درست وجود دارد، به این معنی است که هوش مصنوعی ظرفیتهای استدلالی بیشتری مشابه هوش انسانی خواهد داشت. مثلا پژوهشگران هوش مصنوعی معتقدند که این قابلیت را میتوان در پژوهشهای علمی جدید اعمال کرد.
ایجیآی برخلاف ماشین حساب که تعدادی عملیات ریاضی محدود حل میکند، قادر است تعمیم بدهد، یاد بگیرد و درک کند. این منابع بدون اشاره به نگرانی امنیتی خاص ذکرشده در این نامه گفتند که پژوهشگران در نامهشان به هیئتمدیره درباره مهارت و خطر احتمالی هوش مصنوعی هشدار دادند. مدتها است که درباره این خطر ماشینهای بسیار هوشمند مثل اینکه اگر تصمیم بگیرند نابودی بشر به نفع آنها است، بین دانشمندان رایانه بحثهایی درگرفته است.
پژوهشگران بر کار یک گروه «دانشمند هوش مصنوعی» تاکید کردند که منابع متعددی وجود آن را تایید کردهاند. یکی از این افراد گفت که گروه فوق که از ترکیب گروههای پیشین «کد جین» (Code Gen) و «مت جین» (Math Gen) تشکیل شده است و چگونگی بهینهسازی مدلهای هوش مصنوعی موجود را برای بهبود استدلال و در نهایت انجام دادن کارهای علمی بررسی میکند.
آلتمن تلاش کرد چت جیپیتی به یکی از سریعترین برنامههای نرمافزاری در حال رشد تاریخ تبدیل شود و برای نزدیکتر شدن به ایجیآیــ منابع ضروری محاسباتیــ و سرمایهگذاری را از مایکروسافت جلب کرد.
آلتمن افزون بر اعلام تعداد زیادی ابزار جدید در نمایشگاهی که این ماه برگزار شد، هفته گذشته در نشست سران جهان در سانفرانسیسکو اعلام کرد که باور دارد پیشرفتهای بزرگی در پیش است.
او در نشست همکاری اقتصادی آسیا و اقیانوسیه، یک روز پیش از آنکه هیئت مدیره اوپن ایآی او را برکنار کند، گفت: «اکنون برای چهارمین بار در تاریخ اوپن ایآی که آخرین بار آن درست یکی دو هفته گذشته رخ داد، توانستم در اتاقی باشم که در آن به نوعی پرده جهل را کنار زدیم و مرز کشف را به پیش راندیم و انجام دادن این کار افتخار حرفهای تمام عمر است.»
منبع: ايتنا
کلیدواژه: هوش مصنوعی اوپن ای آی چت جی پی تی هوش مصنوعی هیئت مدیره اوپن ای آی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۱۷۸۸۲۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
یوتیوب از سازندگان ویدیوها میخواهد که محتوای تولید شده با هوش مصنوعی را فاش کنند
ایتنا - یوتیوب اعلام کرد که از سازندگان میخواهد که محتوایی که با هوش مصنوعی ساخته شده را برای بینندگان فاش کنند.
یوتیوب در حال معرفی ابزار جدیدی است که از کاربران میخواهد محتوایی را که بینندگان میتوانند بهعنوان یک شخص، مکان یا رویداد واقعی اشتباه بگیرند، که با رسانههای تغییریافته یا مصنوعی، از جمله هوش مصنوعی مولد، ایجاد شده است، افشا کنند.
به گزارش ایتنا، هدف از افشای اطلاعات جدید جلوگیری از فریب دادن کاربران است، زیرا ابزارهای مولد جدید هوش مصنوعی تشخیص واقعی و جعلی را دشوارتر میکنند. کارشناسان هشدار دادهاند که هوش مصنوعی و دیپفیک خطر قابلتوجهی در طول انتخابات ریاستجمهوری آتی ایالات متحده به همراه خواهند داشت.
یوتیوب در ماه نوامبر اعلام کرد که قصد دارد بهروزرسانی را به عنوان بخشی از معرفی بزرگتر سیاستهای جدید هوش مصنوعی ارائه کند.
یوتیوب میگوید که خط مشی جدید سازندگان را ملزم نمیکند که محتوایی را که به وضوح غیرواقعی یا متحرک است را افشا کنند. همچنین سازندگان را مجبور نمیکند که به افشای محتوایی که از هوش مصنوعی مولد برای کمک به تولید، مانند تولید اسکریپتها یا زیرنویسهای خودکار استفاده میکنند، بپردازند.
این پلتفرم ویدیوهایی را هدف قرار میدهد که از شباهت یک فرد واقعی استفاده می کنند. بهعنوان مثال، سازندگان باید افشا کنند که چه زمانی محتوایی را بهصورت دیجیتالی تغییر دادهاند تا صورت یک فرد را با چهره دیگری جایگزین کنند یا بهطور مصنوعی صدای یک فرد را برای روایت یک ویدیو تولید کنند.
یوتیوب میگوید که اکثر ویدیوها دارای برچسبی هستند که در توضیحات ظاهر میشوند، اما برای ویدیوهایی که موضوعات حساستری مانند سلامت یا اخبار را لمس میکنند، این شرکت برچسب برجستهتری را روی خود ویدیو نشان میدهد.
بینندگان در هفتههای آینده برچسبها را در همه قالبهای یوتیوب، از جمله برنامه تلفن همراه و به زودی روی دسکتاپ و تلویزیون، مشاهده خواهند کرد. یوتیوب همچنین قصد دارد اقدامات اجرایی را برای سازندگانی که به طور مداوم از برچسبها استفاده نمیکنند، در نظر بگیرد.