با گسترش ابزارهای تولید محتوای هوش مصنوعی، نگرانیها دربارهی تصاویر جعلی و محتوای دستکاریشده افزایش یافته است. گوگل با معرفی قابلیت جدید در Gemini تلاش میکند این مشکل را کاهش دهد. این ابزار میتواند تصاویر تولید یا ویرایششده توسط هوش مصنوعی گوگل را تشخیص دهد و به کاربران در شناسایی محتوای غیرواقعی کمک کند.
قابلیت جدید Gemini برای تشخیص تصاویر جعلی
چگونه کار میکند؟
-
Gemini از فناوری SynthID، واترمارک اختصاصی گوگل، برای شناسایی تصاویر تولیدشده با هوش مصنوعی استفاده میکند.
-
کاربران میتوانند با پرسیدن عبارت Is this AI-generated? (آیا این تصویر با هوش مصنوعی ساخته شده است؟) اصالت تصویر را بررسی کنند.
-
این قابلیت فعلاً محدود به تصاویر است اما گوگل وعده داده بهزودی برای صدا و ویدئو نیز فعال خواهد شد.
محدودیتها
-
در حال حاضر Gemini تنها قادر به شناسایی محتوای تولیدشده توسط ابزارهای گوگل است.
-
تصاویر ساختهشده با سایر مدلها مانند Sora یا ابزارهای مستقل هنوز بهطور کامل قابل تشخیص نیستند.
گسترش به استانداردهای صنعتی
گوگل قصد دارد قابلیتهای Gemini را با استاندارد C2PA (ائتلاف منشأ و اصالت محتوا) یکپارچه کند. این استاندارد بهعنوان یک چارچوب جهانی برای تأیید اصالت محتوای دیجیتال شناخته میشود. در صورت تحقق این هدف، Gemini قادر خواهد بود محتوای تولیدشده توسط سایر ابزارهای هوش مصنوعی را نیز شناسایی کند.
اهمیت این قابلیت برای کاربران و صنعت
-
افزایش اعتماد کاربران: با امکان تشخیص محتوای جعلی، کاربران میتوانند به اطلاعات آنلاین اعتماد بیشتری داشته باشند.
-
مبارزه با اخبار جعلی: این ابزار میتواند نقش مهمی در کاهش انتشار تصاویر و ویدئوهای دستکاریشده ایفا کند.
-
حمایت از ناشران و برندها: شرکتها میتوانند با استفاده از این قابلیت، اصالت محتوای خود را تضمین کنند.
نتیجهگیری
قابلیت جدید Gemini گوگل گامی مهم در مسیر مبارزه با محتوای جعلی تولیدشده توسط هوش مصنوعی است. هرچند فعلاً محدودیتهایی دارد، اما با گسترش به استانداردهای صنعتی مانند C2PA، میتواند به ابزاری جهانی برای تشخیص محتوای غیرواقعی تبدیل شود.
