با Black Forest Labs آشنا شوید استارتاپی که تولید کننده تصویر هوش مصنوعی ایلان ماسک را تامین می کند.

ایلان ماسک سه شنبه شب یک ویژگی جدید تولید تصویر هوش مصنوعی را منتشر کرد که درست مانند چت بات هوش مصنوعی، پادمان های بسیار کمی دارد. این بدان معناست که شما می توانید تصاویر جعلی از دونالد ترامپ در حال کشیدن ماری جوانا در نمایش جو روگان ایجاد کنید و آن را مستقیما در پلتفرم X آپلود کنید. اما در واقع این شرکت هوش مصنوعی ایلان ماسک نیست که جنون را تقویت می کند. در عوض، یک استارت آپ جدید Black Forest Labs لباس پشت این ویژگی بحث برانگیز است.

همکاری بین این دو زمانی فاش شد که xAI اعلام کرد که با آزمایشگاه های جنگل سیاه برای تامین انرژی مولد تصویر Grok با استفاده از مدل FLUX.1 خود کار می کند. به نظر می رسد آزمایشگاه های جنگل سیاه، یک استارت آپ تصویر و ویدیوی هوش مصنوعی که در 1 آگوست راه اندازی شد با دیدگاه ماسک برای گروک به عنوان یک "چت بات ضد بیداری" بدون محافظ های سختگیرانه موجود در Dall-E OpenAI یا Imagen گوگل همدردی می کند. این سایت رسانه اجتماعی در حال حاضر مملو از تصاویر ظالمانه از ویژگی جدید است.

بر اساس یک بیانیه مطبوعاتی آزمایشگاه جنگل سیاه در آلمان مستقر است و اخیرا با ۳۱ میلیون دلار بودجه اولیه به رهبری آندرسن هوروویتز از مخفیانه خارج شده است. از دیگر سرمایه گذاران قابل توجه می توان به گری تان مدیر عامل Y Combinator و برندان ایریبه مدیر عامل سابق Oculus اشاره کرد. بنیانگذاران این استارت آپ، رابین رومباخ، پاتریک اسر و آندریاس بلاتمن، قبلا محققانی بودند که به ایجاد مدل های انتشار پایدار Stability AI کمک کردند.

بر اساس تجزیه و تحلیل مصنوعی، مدل های FLUX.1 آزمایشگاه جنگل سیاه از نظر کیفیت از تولیدکنندگان تصویر هوش مصنوعی Midjourney و OpenAI پیشی می گیرند، حداقل همانطور که توسط کاربران در عرصه تصویر خود رتبه بندی شده اند.

این استارت آپ می گوید که با مدل های تولید تصویر هوش مصنوعی منبع باز در Hugging Face و GitHub، "مدل های خود را در دسترس مخاطبان گسترده ای قرار می دهد". این شرکت می گوید که قصد دارد به زودی یک مدل متن به ویدیو نیز ایجاد کند.

آزمایشگاه های جنگل سیاه بلافاصله به درخواست سایت TechCrunch برای اظهار نظر پاسخ ندادند.

این شرکت در انتشار خود می گوید که هدف آن "افزایش اعتماد به ایمنی این مدل ها" است. با این حال، برخی ممکن است بگویند که سیل تصاویر تولید شده توسط هوش مصنوعی آن در X چهارشنبه برعکس عمل کرد. بسیاری از تصاویری که کاربران توانستند با استفاده از ابزار Grok و Black Forest Labs ایجاد کنند مانند پیکاچو که یک تفنگ تهاجمی در دست دارد، نتوانستند با مولدهای تصویر گوگل یا OpenAI دوباره ایجاد شوند. مطمئنا شکی نیست که از تصاویر دارای حق چاپ برای آموزش مدل استفاده شده است که این به نوعی یک نکته است.

این عدم تدابیر حفاظتی احتمالا دلیل اصلی انتخاب ماسک این همکار است. ماسک تصریح کرده است که معتقد است پادمان ها در واقع مدل های هوش مصنوعی را کمتر ایمن می کنند. ماسک در توییتی از سال 2022 گفت: «خطر آموزش هوش مصنوعی برای بیدار شدن به عبارت دیگر دروغی کشنده است.

مدیر هیئت مدیره آزمایشگاه های جنگل سیاه Anjney Midha مجموعه ای از مقایسه ها را بین تصاویر تولید شده در روز اول راه اندازی توسط Google Gemini و همکاری Grok's Flux در X ارسال کرد. این موضوع مسائل مستند Google Gemini را در ایجاد تصاویر دقیق تاریخی از افراد، به ویژه با تزریق تنوع نژادی به تصاویر به طور نامناسب، برجسته می کند.

میدا در توییتی گفت: «خوشحالم که ibab@ و تیم این موضوع را جدی گرفتند و انتخاب درستی گرفتند» و به اجتناب ظاهری FLUX.1 از این موضوع اشاره کرد (و به حساب ایگور بابوشکین، محقق ارشد xAI) اشاره کرد.

به دلیل این اشتباه، گوگل عذرخواهی کرد و توانایی Gemini برای تولید تصاویر از افراد را در ماه فوریه خاموش کرد. از امروز این شرکت هنوز به جوزا اجازه نمی دهد تصاویری از افراد تولید کند.
می توان گفت شلنگ آبپاش آتش نشانی برروی اطلاعات نادرست!
این فقدان کلی تدابیر حفاظتی می تواند مشکلاتی را برای ماسک ایجاد کند. پلتفرم X زمانی که تصاویر صریح دیپ جعلی تولید شده توسط هوش مصنوعی به نمایندگی از تیلور سویفت در این پلتفرم منتشر شد مورد انتقاد قرار گرفت. علاوه بر این حادثه، گروک عناوین توهم آمیزی ایجاد می کند که تقریبا هر هفته برای کاربران X ظاهر می شود.

همین هفته گذشته، پنج وزیر امور خارجه از X خواستند تا انتشار اطلاعات نادرست در مورد کامالا هریس را در X متوقف کند. در اوایل این ماه ماسک ویدیویی را دوباره به اشتراک گذاشت که از هوش مصنوعی برای شبیه سازی صدای هریس استفاده می کرد و به نظر می رسید که معاون رئیس جمهور به "استخدام تنوع" اعتراف کرده است.

به نظر می رسد ماسک قصد دارد اجازه دهد اطلاعات نادرستی مانند این در پلتفرم نفوذ کند. با اجازه دادن به کاربران برای ارسال تصاویر هوش مصنوعی Grok، که به نظر می رسد فاقد واترمارک هستند مستقیما روی پلتفرم، او اساساً یک شلنگ آبپاش آتش سوزی برروی اطلاعات نادرست را که به فید خبری X همه اشاره می کند، باز کرده است.