Распознавания изображений, сгенерированных искусственным интеллектом

Последние достижения в области генеративных моделей искусственного интеллекта существенно расширили возможности злоумышленников по созданию фальсифицированных изображений, содержащих высококачественный текст. Это создает серьёзную угрозу безопасности, так как упрощает изготовление поддельных фотографий документов. Особенно актуально применение методов дорисовки (inpainting), позволяющих заменять текстовые элементы на реальных изображениях. В настоящей работе проводится анализ моделей, применимых для решения данной задачи, и предлагается автоматизированный процесс, обеспечивающий замену фрагментов изображения содержащих текст, с визуальным качеством, достаточным для введения в заблуждение как человеческих наблюдателей, так и современных систем обнаружения на основе искусственного интеллекта. Предложенный процесс также используется для генерации датасета, предназначенного для обучения модели, способной выявлять изображения с подобной подменой. Представленная модель также сравнивается с другими детекторами генеративного ИИ. Исходный код доступен по ссылке: https://github.com/codereptile/bachelor-thesis