Slop or Not е детектор на текст и изображения, генерирани от изкуствен интелект (ИИ), разработен за iPhone и Mac, който работи изцяло в офлайн режим и не изисква регистрация на профил. Той използва локални ИИ модели на устройството, захранвани от Apple Neural Engine, за да открива съдържание, генерирано от изкуствен интелект.
Приложението включва и тест, който изпитва способността ви да разграничавате генерирани от ИИ изображения от реални такива. Подходих към него като обикновен потребител, разчитайки на първи впечатления, вместо да изследвам детайлно всяко изображение. От десет изображения правилно идентифицирах шест, докато четири ме подведоха.
Slop or Not предоставя оценка за вероятност, показваща колко е вероятно дадено изображение да е генерирано от ИИ. То проверява за невидимия воден знак SynthID на Google, което позволява съвместимите изображения да бъдат проверявани директно на устройството. По време на моите тестове сканирах и снимка на кредитна карта, като приложението я отчете като „вероятно с воден знак“. Когато се открие SynthID воден знак, това предоставя допълнително доказателство, че изображението произхожда от ИИ.
За да проверя как се справя приложението, го тествах с няколко мои собствени изображения. Първото беше силно стилизирано изображение на басейн в заден двор, генерирано с ИИ. Приложението го идентифицира като генерирано от изкуствен интелект с над 93% увереност.
След това тествах друго ИИ-генерирано изображение на градина с дървена пейка. Това беше много по-убедително и приложението върна почти равен резултат: 50.4% за ИИ-генерирано срещу 49.6% за реално. То все пак класифицира изображението като „вероятно ИИ спам“ (Probably AI Slop), показвайки, че някои изображения попадат в сива зона, вместо да дадат категоричен резултат.
За да сравня резултатите, сканирах две автентични снимки. Едната показваше високи дървета в гора, заснети отдолу, а другата беше черно-бяла концертна снимка, направена от публиката. Приложението правилно идентифицира и двете като реални.
Slop or Not може да анализира подозрителни публикации в социалните мрежи, генерирани от ИИ портрети, манипулирани снимки, продуктови изображения и екранни снимки, споделяни чрез приложения за съобщения. Учениците и преподавателите могат да преглеждат есета за текст, генериран от ИИ, журналистите и проверителите на факти могат да проверяват изображения преди публикуване, а бизнесите могат да проверяват доклади, маркетингови текстове или поверителни документи, без да качват чувствителни файлове в облачни услуги.
Бих препоръчал Slop or Not на всеки, който редовно се сблъсква с генерирано от ИИ съдържание, цени поверителността си или иска допълнително ниво на защита срещу измами и дезинформация. В същото време откриването на ИИ не е точна наука и нито един инструмент не може да гарантира перфектна точност. Влиянието на ИИ не е изцяло черно-бяло. Инструменти като Slop or Not могат да подпомогнат вземането на информирани решения, но те трябва да допълват, а не да заменят критичното мислене и човешката преценка.