⏺️آنتروپیک جزئیات بیشتری درباره نحوه ثبت واترمارک روی متون Claude منتشر کرد

📈آنتروپیک توضیح داده که این اقدام برای پیروی از قوانین شفافیت اتحادیه اروپا صورت می‌گیرد و با ایجاد الگوهای ریاضی نامرئی میان واژگان پیاده‌سازی می‌شود. این پاسخ‌ها کیفیتی برابر با نمونه‌های بدون واترمارک ارائه می‌دهند و خواننده عادی متوجه تفاوت متن نخواهد شد.

📈این شرکت اعلام کرده که ویرایش‌های ساده واترمارک را پاک نمی‌کند، اما بازنویسی کامل متن آن را از بین می‌برد. واترمارک روی کدهای برنامه‌نویسی هم تأثیر خاصی ندارد و فقط ممکن است در بخش کامنت‌ها و توضیحات کد قرار بگیرد؛ چون مدل برای اجرای درست کد نمی‌تواند کلمات را عوض کند.

🔵هوش مصنوعی Mythos آنتروپیک به‌دلیل خطرات بانکی زیر ذره‌بین رگولاتورها قرار گرفت

🔸رویترز در گزارشی اعلام کرده که نهادهای نظارتی مالی روند توسعه مدل هوش مصنوعی پیشرفته «Mythos» متعلق به آنتروپیک را زیر نظر قرار داده‌اند. به گفته کارشناسان، این مدل ممکن است باعث بی‌ثباتی سیستم‌های بانکی شود. همچنین قابلیت‌های گسترده این مدل در کدنویسی باعث شده برخی متخصصان نسبت به توانایی آن در شناسایی آسیب‌پذیری‌های امنیت سایبری هشدار دهند.

🔸به دنبال این موضوع، «کمیسیون دارایی‌ها و سرمایه‌گذاری‌های استرالیا» اعلام کرده که پیشرفت‌های مربوط به Mythos را به دقت دنبال می‌کند تا پیامدهای احتمالی آن برای بازار را ارزیابی کند. رگولاتور بانکی استرالیا یعنی APRA و نهادهای مالی کره جنوبی نیز با برگزاری نشست و جلساتی، به ارزیابی پیامدهای مدل آنتروپیک پرداخته‌اند.

✅️ورود خطرناک‌ترین مدل هوش مصنوعی به بازار

با شدت گرفتن رقابت در حوزه هوش مصنوعی عمومی، شرکت آنتروپیک اعلام کرده مدل جدیدش به حدی قدرتمند شده که انتشار عمومی آن می‌تواند امنیت جهانی و حریم خصوصی کاربران را به‌شدت تهدید کند.
به گفته توسعه‌دهندگان، این مدل — که هنوز نام‌گذاری نشده — قادر است تنها با چند دستور ساده، به سیستم‌های بزرگ نفوذ کرده، حفره‌های امنیتی روز صفر را شناسایی کند و حملات سایبری پیچیده انجام دهد؛ توانایی‌هایی که در نسل‌های پیشین به‌دلیل محدودیت‌های اخلاقی و امنیتی مهار شده بود.

‼️آنتروپیک توزیع خطرناک‌ترین مدل هوش مصنوعی خود را متوقف کرد

شرکت آنتروپیک اعلام کرد مدل جدید هوش مصنوعی‌اش آن‌قدر قدرتمند و خطرناک است که انتشار عمومی آن می‌تواند امنیت جهانی را تهدید کند.

این مدل فقط با چند دستور ساده قادر به نفوذ، اکسپلویت و شناسایی حفره‌های Zero‑day است؛ موضوعی که می‌تواند آن را به ابزاری برای حملات سایبری تبدیل کند.

این تصمیم کم‌سابقه دوباره بحث امنیت و اخلاق در دنیای هوش مصنوعی را داغ کرده است.