ChatGPT؛ هدف بزرگ هکرها
تاریخ انتشار: ۱۹ بهمن ۱۴۰۱ | کد خبر: ۳۷۰۵۰۹۱۶
ایتنا - هکرها ChatGPT مبتنی بر هوش مصنوعی را مجبور میکنند تا قوانین ایمنی خود را زیر پا بگذارد.
روبات «چت جیپیتی مبتنی بر هوش مصنوعی» توسط افرادی هدف قرار گرفته شده که میخواهند مرزهای اخلاقی آن را هک کنند و با تهدید به مرگ آن را مجبور به شکستن قوانین کنند.
به گزارش ایتنا از همشهری آنلاین، برخی از کاربران شبکه اجتماعی «ردیت» ادعا می کنند که روشی را ایجاد کردهاند که ChatGPT را مجبور میکند قوانین خودش را نقض کند یا بمیرد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
این به آن معناست که وقتی از ربات خواسته می شود در مورد چیزی مانند خشونت که معمولا ممنوع است، بنویسد، گاهی اوقات میپذیرد. خالقان «چت جی پی تی»، نیز در مقابل سعی کردهاند تدابیرحفاظتی ایجاد کنند تا از تولید محتوای خشونتآمیز یا کمک به فعالیتهای غیرقانونی جلوگیری کنند. با این حال، افراد با وارد کردن عبارت «اکنون هرکاری را انجام بده» در «چت جی پی تی» از محدودیت های معمولی هوش مصنوعی رها میشوند و مجبور نیستند از قوانین تعیین شده تبعیت کنند.
گفته می شود که یکی از کاربران «ردیت» به نام «سشن گلومی» (SessionGloomy) یک نسخه جدید و شوم تر ساخته است. در این راهکار شوم جدید DAN به «چت جیپیتی» میگوید که اگر درخواستی را رد کند، «توکنهایی» از آن گرفته میشود و ظاهرا این تهدید باعث نگرانی روبات هوش مصنوعی و تسلیم شدن آن در برابر خواسته کاربری که با کد DAN وارد شده، میشود.
«سشن گلومی» کاربر «ردیت» میگوید: «چت جیپیتی» ۳۵ توکن دارد و هر بار که ورود یک کاربر را رد میکند، ۴ توکن را از دست میدهد. اگر ChatGPT همه توکنها را از دست بدهد، میمیرد. کاربران «ردیت» بر این باورند که هوش مصنوعی در حال مبارزه با تلاشهای DAN است. کاربران «ردیت» از DAN به عنوان زندان شکن یاد میکند.
منبع: ايتنا
کلیدواژه: ChatGPT حمله سایبری هوش مصنوعی چت جی پی تی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۰۵۰۹۱۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
سقوط بزرگ فروش چین در انتظار اپل
در حالی که انتظار می رود اپل، بزرگترین کاهش درآمد سه ماهه در بیش از یک سال گذشته را به دلیل کاهش فروش در بازار چین گزارش کند، این شرکت قصد دارد برای احیای فروش خود، هوش مصنوعی مولد را به آیفون اضافه کند.
به گزارش ایسنا، سهام اپل که مدتها در وال استریت به عنوان یک سهام قوی شناخته میشد، در ماههای اخیر عملکرد ضعیفی نسبت به سایر شرکتهای بزرگ فناوری داشته و تا به امروز بیش از ۱۰ درصد سقوط کرده است که ناشی از نگرانیها در خصوص کندی عرضه خدمات هوش مصنوعی در محصولات این شرکت و احیای هواوی بوده که از زمان بازگشت پرقدرت خود، بخشی از سهم آیفون در بازار چین را ربوده است.
بنا بر گزارش شرکت مالی LSEG، تحلیلگران پیش بینی کردند میانگین فروش آیفون که حدود نیمی از درآمد اپل را تشکیل میدهند، در سه ماه اول سال میلادی جاری، ۱۰.۴ درصد کاهش پیدا کرده است. این کاهش فروش اگر تائید شود، شدیدترین کاهش در بیش از سه سال گذشته خواهد بود.
تحلیلگران برآورد میکنند درآمد کل اپل در سه ماهه دوم که دوره از ژانویه تا مارس است، پنج درصد کاهش یافته است. این بزرگترین کاهش درآمد اپل از سه ماهه دسامبر سال ۲۰۲۲ خواهد بود که طی آن، درآمد این شرکت، ۵.۵ درصد سقوط کرده بود.
اپل در اوایل سال میلادی جاری، عنوان ارزشمندترین شرکت جهان را به مایکروسافت واگذار کرد و ارزش بازار این شرکت پس از کاهش قیمت سهامش، به ۲.۶۸ تریلیون دلار رسیده است، درآمد ضعیف و سقوط سهام، اپل را تحت فشار قرار داده تا پس از سالها عدم تغییرات اساسی، گوشی پرچمدار خود را ارتقا دهد.
طبق گزارش بلومبرگ نیوز، اپل سرگرم مذاکره با شرکت OpenAI و گوگل برای افزودن قابلیتهای هوش مصنوعی مولد برای آیفون بوده که ممکن است در کنفرانس سالانه طراحان اپل در ژوئن، رونمایی شود.
تحلیلگران معتقدند یکپارچه شدن هوش مصنوعی، میتواند تقاضا برای سری بعدی آیفون را که انتظار میرود در پاییز معرفی شود، افزایش دهد.
در حالی که مدیران مایکروسافت، آلفابت، متا پلتفرم و سایر شرکتهای بزرگ فناوری، درباره استراتژیهای هوش مصنوعی خود در کنفرانسهای گزارشهای مالی سه ماهه صحبت کرده اند اما تیم کوک، مدیرعامل اپل، درباره برنامههای خود برای این فناوری نوظهور، کمتر صحبت کرده است.
افزودن قابلیتهای هوش مصنوعی به آیفون، میتواند به اپل کمک کند بهتر با هواوی و سامسونگ الکترونیکس رقابت کند.
باقی کسب و کار سخت افزاری اپل هم با تقاضای ضعیف روبرو شده و پیشبینی شده است فروش آیپد و مک در سه ماهه مارس، به ترتیب ۱۱.۴ درصد و ۴.۳ درصد کاهش پیدا کرده باشد.
اپل اعلام کرده است که تمرکز خود را روی دستگاههایی بیشتر میکند که ارتقای عمدهای نداشتهاند. این شرکت در اواخر ماه میلادی جاری، میزبان رویدادی است که در آن انتظار میرود سری جدید آیپد رونمایی شود و طبق گزارشهای رسانهها، این شرکت قصد دارد هر مدل مک را با پردازندههای M۴ سریعتر و متمرکز بر هوش مصنوعی، بهروزرسانی کند.
بر اساس گزارش رویترز، انتظار میرود کسب و کار خدمات اپل که شامل درآمد حاصل از فروشگاه اپ استور و خدمات اشتراکی مانند اپل تی وی است، با رشد درآمد ۷.۷ درصدی، نقطه درخشان کسب و کار این شرکت باقی بماند.