حفاظت از تصاویر در برابر دستکاری هوش مصنوعی ممکن شد
تاریخ انتشار: ۳ مرداد ۱۴۰۲ | کد خبر: ۳۸۳۱۰۰۹۸
به گزارش خبرگزاری مهر به نقل از انگجت، همزمان با پیشرفته ترین شدن هوش مصنوعی مولد و فعالیت شرکت ها برای تمایز محصولاتشان از رقبا، چت بات هایی در سراسر اینترنت قابلیت ادیت تصاویر و همچنین ایجاد آنها را ارائه می کنند. شرکت هایی مانند «شاتراستاک» و «ادوب» در این زمینه پیشرو هستند.
اما همراه این قابلیت های هوش مصنوعی چالش هایی نیز وجود دارد مانند دستکاری تصاویر یا سرقت آنها.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
تکنیک برچسب زنی روی تصاویر احتمال سرقت را کاهش می دهد و اکنون تکنیک«فتوگارد» متعلق به MIT CSAIL می تواند از دستکاری تصاویر جلوگیری کند.
فتو گارد با جایگزین کردن پیکسل ها در یک تصویر عمل و به این ترتیب توانایی هوش مصنوعی برای درک عکس را مختل می کند.
روش حمله رمزگذار برای ارائه این اختلالات، نمایش نهفته مدل الگوریتمی از تصویر مورد نظر را هدف قرار می‌دهد. به طور دقیق تر محاسبات ریاضی پیچیده‌ای به کار می رود که موقعیت و رنگ هر پیکسل در تصویر را هدف می گیرد و به این ترتیب هوش مصنوعی نمی تواند محتوای پیش روی خود را درک کند.
روش حمله «ریزش» پیشرفته تر و شدیدتر است و یک تصویر را به عنوان عکسی متفاوت در مقابل هوش مصنوعی استتار می کند. این روش یک تصویر را به عنوان هدف تعریف می کند و اختلالات در تصویر خود را به گونه ای ارتقا می دهد که شبیه به هدف خود باشد. هرگونه تلاش برای تغییر عکس مذکور با کمک هوش مصنوعی روی عکس جعلی به ایجاد تصویری غیرواقعی منجر می شود.
هادی سلمان مولف ارشد تحقیق و دانشجوی مقطع دکتری در MIT می گوید: حمله رمزگذار سبب می شود مدل هوش مصنوعی تصور کند تصویر ورودی که قرار است اصلاح شود، یک عکس دیگر است. حال آنکه حمله «ریزش» سبب می شود مدل هوش مصنوعی اصلاحات را در تصویر دیگری انجام دهد.
این روش غیرقابل هک نیست و ممکن است هکرها سعی کنند تا تصاویر محافظت شده را به طور معکوس مهندسی کنند.
کد خبر 5845971منبع: مهر
کلیدواژه: تحقیقات علمی هوش مصنوعی عکس هکرها تحقیقات علمی حاکمیت سایبری شرکت های دانش بنیان هوش مصنوعی معاونت علمی فناوری و اقتصاد دانش بنیان ریاست جمهوری تولید دانش بنیان نوآوری ایرانسل فناوری نانو صندوق نوآوری و شکوفایی توییتر روح الله دهقانی فیروزآبادی پلتفرم های خارجی وزارت ارتباطات و فناوری اطلاعات هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.mehrnews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «مهر» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۳۱۰۰۹۸ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
هوش مصنوعی راهی برای کلاهبرداری است!
به گزارش «تابنا:» به نقل از زومیت، بافت معتقد است تصاویر و ویدئوهایی که توسط هوش مصنوعی ساخته می‌شوند، به‌حدی قانع‌کننده هستند که دیگر واقعی یا ساختگی بودن آنها را نمی‌توان به‌آسانی تشخیص داد.
بافت اعلام کرد که کلاهبرداران برای دریافت پول نقد از افراد، یک ویدئو با کمک فناوری دیپ‌فیک از او ساخته بودند. او همچنین مانند سال گذشته هوش مصنوعی را به بمب اتم تشبیه کرد.
سرمایه‌گذار معروف آمریکایی از خطرناک بودن هوش مصنوعی صحبت می‌کند و این در حالی است که بافت قبل از انتشار ChatGPT از پتانسیل هوش مصنوعی تعریف می‌کرد.
مدیرعامل سرشناس برکشر هاتاوی پیش‌تر تأکید کرده بود که در زمینه‌ی فناوری هوش مصنوعی متخصص نیست؛ اما اهمیت آن را هم انکار نخواهد کرد.
امیدواری ژینولا به کامبک پاری سن ژرمن مقابل دورتموند: آنها از نظر جسمانی، تکنیکی و تاکتیکی آماده هستند