Лучшая программа для поиска дубликатов. Удаление дубликатов файлов

Накопившийся в процессе работы компьютера файловый мусор обычно представляет собой не только ненужные пользователю или временные файлы. Отдельной категорией являются файлы-дубликаты, которые одинаковы по своему содержанию, но хранятся в разных папках или на разных дисках компьютера.

Это могут быть, например, неоднократно сохраненные документы, повторяющиеся или похожие фотографии, одни и те же музыкальные композиции, которые вы скачали из Интернета и сохранили в разных папках или под разными именами. Важно понимать, что дубликатами, по сути, являются две версии одной и той же фотографии, имеющие разное разрешение. Или одна и та же песня одного и того же исполнителя, но записанная на разных концертах. Либо две версии одной и той же музыкальной композиции, но записанные в разных аудиоформатах.

Примером файлов-дубликатов можно считать также и две версии фильма, сохраненные с разным качеством или опять же в разных видеоформатах. Разумеется, вручную обнаружить такие дубликаты достаточно сложно, поэтому на помощь мы призовем специальные программы, которые занимаются поиском файлов-дубликатов. Как вы уже наверняка поняли из предыдущего абзаца, дубликаты каждого типа файлов (рисунки, музыка, видео, документы) имеют свои особенности.

Алгоритмы поиска дубликатов всех типов файлов значительно отличаются друг от друга, поэтому и поиском дубликатов файлов разных типов занимаются, как правило, разные программы. Рассмотрим некоторые из них. К тому же важно не только обнаружить дубликаты, но и выбрать самую последнюю версию документа или наиболее качественный видео- либо аудиофайл. Мы рассмотрим каждый тип файлов отдельно, а также приведем список популярных программ для работы с дубликатами.

Поиск картинок-дубликатов

Наиболее ярким примером картинок-дубликатов могут служить одинаковые или очень похожие фотографии. Многие современные фотоаппараты позволяют снимать в серийном режиме, когда снимки делаются с очень коротким интервалом - от нескольких долей секунды до нескольких секунд. При этом получившиеся снимки отличаются друг от друга совсем незначительно. Как показывает практика, нет реальной необходимости хранить похожие фотографии, достаточно выбрать один-два удачных снимка из серии, а остальные удалить.

Еще один случай, когда могут появляться дубликаты файлов с изображениями, - создание резервных копий фотографий на жестком диске, выборка картинок для презентации, при котором они копируются в другую папку. В общем пользователь зачастую сам создает копии изображений, а потом забывает их удалять. Впрочем, причины появления дубликатов изображений могут быть самыми разными. Наша задача - избавиться от таких дубликатов и очистить место на жестком диске. Среди наиболее распространенных программ, предназначенных для поиска картинок-дубликатов на компьютере, можно назвать следующие.

• SWMole Clone Remover . Адрес веб-сайта: http://www.clone-remover.com/ . Программа платная. Умеет искать не только дубликаты изображений (в том числе похожие рисунки, а не просто точные копии), но и копии музыкальных файлов. В незарегистрированной версии пользователь имеет возможность удалить не более 20 файлов. Копии изображений находит парами, даже если на диске находится более двух похожих изображений. Имеет русскоязычный интерфейс.
• Image Comparer . Веб-сайт: http://www.bolidesoft.com/rus/imagecomparer.html. Программа условно-бесплатная, имеет ознакомительный период 30 дней. Поддерживается многоязычный пользовательский интерфейс, среди языков есть русский. Имеется возможность поиска дубликатов картинок как в пределах одной папки, так и между несколькими папками. Интерфейс программы несколько сложноват для начинающего пользователя, однако возможно использовать режим пошагового мастера, который поможет найти и удалить дубликаты файлов изображений.
• Picasa . Официальная страница программы: https://picasa.google.com . Сама программа включает в себя множество различных инструментов для работы с фотографиями. В том числе в программе есть функция поиска картинок-дубликатов. Чтобы воспользоваться этой функцией, нужно в главном меню программы выбрать пункт Инструменты>>Экспериментальные функции>>Показать повторяющиеся файлы. Сразу обратим внимание на то, что программа ищет именно повторяющиеся файлы изображений, то есть абсолютно идентичные картинки. Зато находит их независимо от расположения и практически без участия пользователя. Программа является абсолютно бесплатной и имеет русскоязычный интерфейс. Кроме того, с помощью программы Picasa можно обрабатывать изображения, применять к ним различные фильтры, находить лица людей, отмечать места съемки и выполнять множество других полезных действий.
• Similar Images Finder . Веб-сайт программы: http://www.crown-s-soft.com/ru/sifinder.htm . Программа условно-бесплатная. В течение 30 дней можно пользоваться ею, не покупая, при этом накладывается ограничение на количество найденных файлов-дубликатов. Интерфейс программы англоязычный. Есть возможность настройки глубины «похожести» фотографий, а также установки предпочтений для найденных дубликатов: например, программе можно указать, чтобы она автоматически удаляла более старый из файлов-дубликатов, имеющий меньшую цветность или меньший размер. В программе есть мастер поиска дубликатов, который позволяет в пошаговом режиме указать критерии сравнения файлов изображений.

Поиск дубликатов музыкальных файлов

Так же как и изображения, музыкальные файлы порой могут занимать много дискового пространства, и в некоторых случаях найти одинаковые или похожие музыкальные композиции вручную бывает проблематично. На помощь придут специализированные приложения, автоматизирующие этот процесс. Расскажем о некоторых наиболее популярных из них.

• Audio comparer . Скачать программу можно на сайте: http://audiocomparer.com/rus/ . Приложение условно-бесплатное. В течение 30 дней его можно использовать без регистрации. Анализ музыкальных композиций основывается на сопоставлении имен исполнителей и названий песен. Эти данные берутся из названия файла и внутренней служебной информации, так называемых ID3-тегов. Есть возможность указать порог схожести названий, при которых композиции будут считаться одинаковыми. Приложение позволяет сравнивать файлы как внутри одного каталога на диске компьютера, так и между несколькими каталогами. Интерфейс программы несколько сложноват для начинающего пользователя, но это компенсируется наличием пошагового мастера, который облегчает процесс поиска дубликатов.
• Music Duplicate Remover . Сайт в Интернете: http://www.maniactools.com/ . Ключевое отличие этого приложения от аналогов - возможность поиска дубликатов по звучанию. Данная функция позволяет находить дубликаты даже среди тех файлов, которые некорректно поименованы. Программа условно-бесплатная и дает возможность незарегистрированному пользователю работать в течение 30 дней. Имеет простой пользовательский интерфейс на русском языке.
• SWMole Clone Remover . Как уже упоминалось, данное приложение умеет искать не только дубликаты изображений, но и повторяющиеся музыкальные композиции. Адрес веб-сайта программы: http://www.clone-remover.com/ . Интерфейс программы сложноват, но благодаря поддержке русского языка в нем несложно разобраться самостоятельно. Приложение может искать дубликаты музыкальных файлов лишь по имени файла и по ID3- тегам, не учитывая звучание. Используя одну из перечисленных или все программы сразу, вы можете освободить много полезного места на дисках своего компьютера.

Поиск дубликатов видеофайлов

Борьба с дубликатами видеофайлов имеет свои особенности по сравнению с поиском дубликатов картинок или музыки. Из-за больших размеров видеофайлов их обычно не так много на дисках компьютера, как музыки или изображений. Кроме того, появление дубликатов фильмов или видеороликов не столь распространенное явление, как «клонирование» фотографий или песен. Зато удаление даже одного клона видеофайла поможет освободить значительное количество дискового пространства. Кроме того, алгоритм сравнения видеопотоков гораздо сложнее рисунков или даже звучания музыки. По этой причине программ, предназначенных для поиска дубликатов видеофайлов, существует не так много. Остановимся на некоторых из них.

• Duplicate Video Search . Веб-адрес: http://duplicatevideosearch.com/rus/ . Программа условно-бесплатная - с ознакомительным периодом 30 дней. Имеет англоязычный интерфейс, который, впрочем, не перегружен лишними элементами, а потому достаточно понятен. Пользователь должен указать, в каких папках нужно производить поиск видеодубликатов. Приложение может сравнивать содержимое видеофайлов десяти различных форматов. Есть возможность указания глубины сравнения.
• Teemoon Video Matching . Домашняя страница программы: http://teemoon.name/videoid/Default.html . В отличие от своих «собратьев», данное приложение бесплатное. Работа с программой предполагает два этапа. Первый - индексирование, которое осуществляется на вкладке Indexing. В ходе этого процесса для каждого видеофайла из указанной папки создаются файлы индексов. Процесс длительный, но его требуется провести всего один раз, затем при сравнении файлов будут использоваться уже имеющиеся индексные файлы. Второй этап - сравнение, которое осуществляется на вкладке Matching. К недостаткам программы можно отнести отсутствие поддержки русского языка и неочевидный алгоритм работы.
• Video Comparer . Сайт программы: http://www.video-comparer.com/ . Приложение имеет платную и бесплатную версии. Для домашнего использования вполне подойдет бесплатная. Интерфейс программы довольно прост. От пользователя требуется только указать папки, в которых следует осуществлять поиск файлов-дубликатов, и нажать кнопку запуска процесса сравнения. Пользовательский интерфейс англоязычный.

Если вы являетесь киноманом и храните на своем компьютере большую коллекцию разных фильмов либо занимаетесь видеомонтажом и имеете множество видеофрагментов на жестком диске, то вам стоит провести «инвентаризацию» видеоархива. Возможно, вы найдете скрытые резервы своего компьютера.

Поиск других дубликатов

Как вы уже наверняка поняли, не существует универсальной программы, позволяющей избавиться от всех файлов-дубликатов одним махом, - для каждого типа данных требуется свой инструмент. Однако если оставить в стороне сложные алгоритмы сравнения изображений и звуков, а ограничиться просто сравнением имени, размера и даты файла, то можно отыскать немало дубликатов среди тех типов файлов, о которых мы здесь еще не упоминали. Это могут быть документы, файлы других форматов, которые зря занимают место на диске. Чтобы найти такие дубликаты, часто можно обойтись без специализированных программ. Например, если вы используете какой-нибудь популярный файловый менеджер, то можно воспользоваться его средствами для поиска и удаления файлов-дубликатов. Среди файловых менеджеров, имеющих функцию поиска файлов-дубликатов, можно назвать:

• FAR Manager;
• FreeCommander;
• Total Commander.

Если же вы не привыкли пользоваться файловыми менеджерами, то не стоит их устанавливать на компьютер только ради поиска дубликатов. Для этой задачи существуют специализированные приложения:

• CloneSpy - http://www.clonespy.com/;
• DupKiller - http://dupkiller.com/index_ru.html;
• Duplicate Cleaner - http://www.digitalvolcano.co.uk/duplicatecleaner. html;
• Free Duplicate File Finder - http://www.ashisoft.com/;
• NoClone 2014 Desktop - http://noclone.net/

Эти и множество других платных и бесплатных приложений на любой вкус помогут вам избавиться от дубликатов файлов на ваших жестких дисках.

Здравствуйте Друзья! В этой статье мы разберемся как можно осуществить поиск дубликатов файлов на наших компьютерах. Признаюсь, у меня такой проблемы не стоит. Обычно, на моем компьютере три раздела. Первый системный от 50 до 100 ГБ, второй для документов от 100 до 200 ГБ и третий раздел для всего остального. У меня одна папка для фото, одна для музыки и так далее. Все прозрачно. Другое дело компьютер родителей. Жесткий диск разбит там на три части. На 3-ем разделе две или три папки с фотографиями + в каждой папке куча подпапок. На диске D так же в последствии образовалась папка фото. Перебирать все в ручную тяжело и тут нам помогут программы для поиска дубликатов файлов.

Мне не хочется устанавливать отдельную программу для какой-то функции так как функций бывает много (например дефрагментация или тот же поиск одинаковый файлов). Соответственно много программ придется ставить на компьютер . Позиция у меня следующая. Чем меньше устанавливаешь, тем надежнее и стабильнее работает компьютер .

Решения есть. Найти программу, которая практически необходима в обслуживании компьютера (то есть скорее всего будет установлена) и которая бы смогла искать дубли файлов. Искать долго не пришлось. Это уже знакомый и проверенный CCleaner от компании Piriform. Начиная с 4-ой версии в CCleaner прикрутили данную функцию и ниже мы посмотрим как она работает.

Программу, качаем с официального сайта

Устанавливаем.

При первом запуске выйдет окошко приведенное ниже. Если выбрать Да, то при очистке компьютера по умолчанию, возможно, не собьется авторизация на приведенных почтовый cервисах. Нажимаем Да

Переходим, слева, на вкладку Сервис

Нажимаем на кнопку Поиск файлов

Для поиска одинаковых файлов осталось только указать нужные настройки

Настроек не много и разбиты они на три группы:

• Совпадение
• Пропуск
• Место где искать и места исключения

Остановимся на каждой группе подробнее

Совпадение

Можно установить поиск файлов дубликатов по Имени, Размеру, и Дате изменения. Так же можно комбинировать эти критерии устанавливая больше одной галочки. При упорядочивании фото на компьютере родителей первым делом произведу поиск с совпадением по Имени. Скорее всего найдется куча файлов сохраненных в различных местах. Затем, интересен будет поиск с совпадением по Размеру. Так как фото может быть переименовано, но размер не должен измениться.

Как эффективно использовать поиск дублей с включенной галочкой Изменен мне пока не пришло в голову. Если у вас есть варианты отпишитесь пожалуйста в комментариях. Возможно, если вы взяли и дорисовали что то в фото, при этом не поменяв имя. Но, в этом случае, с огромной вероятностью, изменится размер.

Пропуск

Какие файлы необходимо пропустить при поиске дублей. Здесь возможны следующие варианты:

• Байты с размером 0
• Файлы только для чтения
• Размер менее х МБ
• Системные файлы
• Скрытые файлы

Место где искать и места исключения

Здесь с помощью кнопки Добавить на вкладке Включения задаете где искать дубликаты файлов. На вкладке Исключения добавляете места на жестком диске , флешке или на внешнем жестком диске , где не производить поиск.

В принципе все просто. Для сброса настроек нажимаете соответствующую кнопку.

Когда фильтр настроен нажимаете Найти.

Сортировка результатов поиска дубликатов файлов

В результате получается удобная для просмотра таблица с результатами поиска. Причем таблица формируется сразу, при обнаружении какого-либо дубля.

Предполагаемые дубликаты разделены между собой. Единственное, что хотелось бы видеть в этой таблице, сортировка по нажатию на какой-либо столбец.

При нажатии на файле правой кнопкой мышки появляется контекстное меню, которое позволяет удобно отсортировать результаты поиска. Это особенно актуально если результатов много.

Пункт Исключить позволяет убрать все файлы из выбранной вами папки. Например C:\Program Files. Пункт Ограничить оставит в результатах поиска только файлы из выбранной вами папки. Опция Выбрать дубликаты позволяет выбрать все файлы находящиеся в выбранной вами папке. Остальные пункты вроде бы понятны.

Очень полезен пункт Открыть папку. С помощью него можно быстро зайти и посмотреть где находится файл и нет ли там еще одинаковых файлов не попавших в таблицу результатов или отсеявшихся сортировкой.

Осталось вычислить какой из файлов нужно оставить, а остальные удалить воспользовавшись кнопкой справа внизу.

Заключение

Вот так с помощью старой доброй CCleaner собираюсь искать дубликаты файлов на своих и не только компьютерах . Для моих целей функционала программы достаточно. Если вам нужно больше, тогда стоит обратить внимание на DupKiller. Эта бесплатная программа, почитать о ней и скачать ее можно с официального сайта http://dupkiller.com/index_en.html . DupKiller имеет на много более широкие возможности выполнить настройку поиска. Так же там реализован просмотр графических файлов и прослушивание аудио. Интересна возможность задания не точного совпадения файлов, а до определенного уровня (процента).

Благодарю за то, что поделились статьей в социальных сетях. Всего Вам Доброго!

Доброго дня!

Я думаю, что у многих пользователей на диске лежат десятки (а то и сотни) гигабайт картинок, обоев, видео, музыки и пр. файлов. И должен заметить, что в разных каталогах (в сборниках обоев, например) могут находится достаточно много копий (дублей). Нередко, после их удаления, удается освободить несколько гигабайт пространства на HDD!

Для поиска дубликатов существуют специальные программы и утилиты. Они способы за относительно небольшое время просканировать ваш жесткий диск(и) и представить вам на обозрение все одинаковое. Дальше, как правило, вам останется только пометить галочками, что удалить - и вуаля, место очищено!

В этой статье приведу несколько таких "чистильщиков", которые помогут вам освободить место на жестком диске. И так...

Дополнение!

Универсальные (поиск любых файлов)

Универсальные программы для поиска дублей подойдут для работы с любыми файлами: документами, фотографиями, видео и пр. Как правило, их работа строится на поиске файлов одинакового размера и контрольной суммы. Т.е. эти программы ищут точные копии, совпадающие на 100%!

Благодаря этому, их скорость работы достаточно высока. Однако, они не могут найти, например, почти одинаковые картинки, которые сохранены в разных форматах и отличным разрешением. Для этого необходимо использовать спец. ПО, которое я порекомендую ниже...

CCleaner

Одна из самых известных утилит по очистке ПК. Однако, не многие пользователи знают, что в ее арсенале есть функция по поиску дублей (причем, весьма неплохая функция!).

Чтобы открыть эту опцию: необходимо загрузить последнюю версию программы, в меню "Сервис" выбрать "Поиск дублей" , указать настройки и нажать кнопку "Найти" .

Отмечу, что поиск идет достаточно быстро, можно фильтровать файлы по их размеру, дате имени. Также вручную можно задать конкретные диски (папки) для поиска. В общем, довольно удобно!

Glary Utilities (Glary Duplicate Cleaner)

Glary Utilities - отличный набор утилит на все случаи жизни. Содержит в себе все самые необходимые инструменты для очистки, обслуживания и оптимизации Windows. Этот комплекс я уже неоднократно рекомендовал на страницах своего блога ...

В его арсенале встроенного ПО есть одна небольшая утилита Glary Duplicate Cleaner. Она позволяет достаточно быстро находить дубли самых разных форматов файлов: TXT, RAR, ZIP, MP3, WAV, AVI, JPG, BMP и пр. (в общем, все самое популярное точно есть, см. скрин ниже).

Настройка параметров сканирования / Glary Duplicate Cleaner

Также есть небольшой фильтр с критериями поиска: по имени, размеру, времени. Есть опция для пропуска файлов определенного размера (например, можно пропускать файлы, которые весят менее 100 КБ).

Отмечу, что пакет Glary Utilities бесплатен, и полностью переведен на русский язык. В общем, оценка 5 по 5 бальной шкале!

AllDup

Это небольшая бесплатная утилита способа очень быстро просканировать все ваши накопители и удалить все повторяющиеся файлы. Разработчики отмечают, что их алгоритм поиска на 10-30% работает быстрее, чем у других аналогичных продуктов.

Лично я скорость не проверял, но отметил бы следующее: утилита работает во всех ОС Windows 2000, XP, 7, 8 ,10 (это некое преимущество!).

После произведенного поиска, утилита AllDup представит вам результаты: с каждым дубликатом вы сможете ознакомиться и удалить его прямо из интерфейса программы. Удобно!

Duplicate File Finder

Бесплатный инструмент для очистки дисков от повторяющихся файлов. Программа побайтово сравнивает файлы на указанном диске (каталоге). Присутствуют стандартные фильтры: расширение файла, его имя, дата создания, и размер.

С результатом поиска (пример приведен на скрине выше) можно либо ознакомиться в самой программе (и принять решение), либо экспортировать его в файлы HTML, CSV и TXT. Кстати, отметил бы, что в программе достаточно удобный вьювер, позволяющий просмотреть картинку, текст, видео.

Total Commander

В этом знаменитом коммандере (хорошей замене проводника) также есть функция поиска файлов. Чтобы ее открыть - нажмите по значку "лупы" в верхнем меню программы (см. скрин выше).

Возможностей, конечно, здесь не так много, но тем не менее...

Для поиска фото, картинок, графики

Эти программы могут производить поиск не только по размеру (контрольной сумме) файла, но и по содержимому картинки. Например, у вас есть несколько одинаковых обоев для рабочего стола, располагающихся в двух разных папках (но у этих картинок разный размер и разрешение).

Так вот, программы, приведенные выше - не нашли бы эти дубликаты, т.к. они "не могут" оценить то, что отображено на картинках. В этом случае необходимо воспользоваться спец. инструментами (о них ниже ) ...

Image Comparer

Это совсем небольшая утилита, специализирующаяся на поиске похожих изображений. Отмечу, что она сравнивает не просто размер, а то, что изображено на картинке (см. скрин выше). Поддерживаются все популярные форматы картинок и фото: RAW, JPEG, J2K, BMP, GIF, PNG, TIFF, TGA и др.

После проведенного поиска, пред вами предстанет список дубликатов: пройдясь по нему, вы сможете просмотреть все копии и удалить те, которые вам не нужны. Что интересно: программа показывает вам процент похожести тех или иных картинок (разница между ними выделяется при просмотре квадратиками).

Из минусов : если вы укажите большой диск (в несколько терабайт) - программе потребуется очень большое время на сканирование. Рекомендую перед ее использованием пройтись по картинкам с помощью более грубых инструментов (например, CCleaner, AllDup и пр., см. выше) .

DupeGuru Picture Edition

Очень простенькая утилита, которая предназначена для быстрого поиска одинаковых картинок. Отмечу, что похожие картинки будут найдены даже если у них разный формат (например, JPG и Tiff как на скрине выше).

Из преимуществ утилиты:

• наглядное сравнение картинок;
• программа полностью бесплатна;
• простой интерфейс, выполненный в стиле минимализма;
• поддержка русского языка;
• возможность экспортировать результаты поиска;
• поддержка всех самых популярных версий Windows XP, 7, 8 ,10.

ImageDupeless

Программа ImageDupeless позволяет находить дубликаты картинок в независимости от размера файлов, их формата, разрешения и пр. характеристик (она как бы за вас "посмотрит" все картинки и найдет похожие).

Также в программе есть весьма интересная функция записи изображений на CD диски (создание своеобразных CD галерей).

Примечание : для экономии времени вновь поступающие картинки сравнивайте с уже имеющейся галереей (так вы сэкономите кучу времени, т.к. полное сканирование всех картинок на диске - это значительно дольше, чем уже искать в созданной галереи) .

Результат сравнения: обратите внимание, что разрешение и размер у картинок разный!

Visual Similarity Duplicate Image Finder

Программа использует продвинутые алгоритмы для сравнения графических образов, имеющихся на картинках и фотографиях. Благодаря этому удается найти похожие и одинаковые картинки, даже если у них разный формат (GIF, PNG, JPG и пр.) и разрешение.

Отмечу, что у пользователя есть опция для указания признака похожести (т.е. вы можете задать, скажем, найти только те картинки, которые схожи друг с другом на 95%).

После проведения поиска: вы сможете просмотреть все найденные дубли и вручную удалить все ненужное. Кстати, программа располагает рядом с друг другом 2 одинаковые изображения (пример см. выше), чтобы вы могли наглядно просмотреть разницу. Весьма удобно!

Для поиска аудио- и видео-файлов

Audio Comparer (Электронное ухо)

Audio Comparer - программа прослушает почти 300 треков за 10 мин.

Audio Comparer - это не такое простое приложение для поиска дублей среди музыкальных файлов (MP3, MP2, MP1, WMA, AIF, WAV, WavPack, FLAC, APE, AAC и OGG), как это может показаться при первом взгляде... Оно "слушает" музыку и сравнивает треки между собой по особому алгоритму: сравнение идет по аудио-дорожке, а не по размеру или названию файла (как это сделано во многих других аналогах).

Благодаря чему, одинаковые треки могут быть найдены даже в том случае, если они сохранены в разные форматы. Audio Comparer - это, своего рода, электронное ухо, которое может очень быстро прослушать всю вашу музыку.

Отмечу, что подобных программ достаточно мало, поэтому каждая заслуживает отдельного внимания! Рекомендую к знакомству!

DupeGuru Music Edition

Весьма интересная программа dupeGuru Music Edition для поиска одинаковых и похожих музыкальных треков. В наличии есть фильтры для поиска: по битрейту, информации в тегах, продолжительности, размеру и т.д.

Поддерживаются все самые популярные форматы: MP3, WMA, AAC, WMA, OGG, FLAC. После произведенного поиска, найденные дубликаты можно либо удалить, либо перенести в другие каталоги.

Отметил бы также наличие русского языка и поддержку современных ОС Windows 7, 8, 10 (в т.ч. 64 bits).

Music Duplicate Remover

Music Duplicate Remover - утилита позволяет легко и быстро находить копии аудио-файлов, расположенных в разных папках (дисках) и сохраненных в различных форматах. Благодаря технологии "электронного уха", она способна прослушать все ваши композиции на диске, проанализировать их и предоставить вам отчет со всеми похожими треками (пример такого отчета показан на скриншоте выше).

Отмечу, что утилита отлично работает и со стандартными предустановками (т.е. после ее загрузки и запуска - нет нужды долго копаться в настройках, можно сразу же приступать к сканированию).

Примечание! Music Duplicate Remover поддерживает следующие форматы аудио: MP3, WMA, OGG, FLAC, APE, WAV.

Duplicate Video Search

Довольно мощная программа для удаления одинаковых видео, сохраненных в разных папках (подойдет тем, у кого много всяких видеороликов, музыкальных клипов, сборников топ-100 и пр.). Поможет "прошерстить" вашу коллекцию файлов и удалить все дубли.

Отмечу, что в программе используется технология уникального "слепка" (т.е. своего рода "электронный глаз"), которая позволяет находить похожие видео, даже если они сохранены в другой формат, у них другое разрешение и они сжаты другим кодеком.

Особенности:

1. поддерживаются следующие форматы видео: AVI, MKV, 3GP, MPG, SWF, MP4, WMV, WTV и FLV (см. скрин выше);
2. поиск полных копий видео и похожих (где отличное разрешение, битрейт, формат, кодек);
3. программа автоматически выбирает видео с худшим качеством среди всех дублей (тем не менее, вы вручную можете указать, какую копию удалять);
4. удобное и наглядное представление результатов поиска: миниатюры к каждому видео и путь до каталога, где оно хранится;
5. прямо из окна программы можно либо просмотреть видео, либо удалить его.

Video Comparer

Video Comparer - программа предназначена для поиска и сравнения видео на жестком диске. За относительно короткий промежуток времени, она может просмотреть все ваши видео и показать вам в удобной табличке все файлы, которые повторяют друг друга (полные дубли, похожие ролики, видео с одинаковым содержимым, но разным качеством и пр.).

Отмечу, что в программе есть различные фильтры, которые позволят, например, искать видео только определенного формата (или задать продолжительность видео).

Особенности:

1. поддерживает форматы: 3GP, AVI, ASF, ASX, WMV, VOB, XVID, MP4, MPEG;
2. возможность вести поиск среди скрытых файлов;
3. возможность автоматического выделения похожих видео для удаления;
4. фильтры видео по продолжительности, качеству и расширению;
5. удобное представление результатов поиска: превью к каждому видео; размер; папка, где оно расположено; название; процент схожести.
6. возможность резервного копирования в отдельную папку;
7. ведение логов;
8. поддержка почти всех популярных Windows XP, 7, 8, 10 (32/64 bits).

Дополнения, как всегда, приветствуются.

Удачной работы!

Программа для поиска дубликатов файлов чаще всего необходима пользователям, хранящим на диске большое количество музыки, фото и документов.

И, хотя удалять такие лишние копии можно вручную, специализированные приложения способны сэкономить немало времени.

Особенно, если файлы расположены в разных папках или в скрытых каталогах. Искать такие дубликаты можно с помощью универсального программного обеспечения или же рассчитанного на конкретный тип данных.

В первом случае повышается скорость поиска, во втором – увеличивается вероятность обнаружить все копии.

Универсальные приложения

Универсальные приложения для поиска копий, в основном, работают по принципу сравнивания размеров файлов. И, так как вероятность совпадения количества байтов у разных фото практически равна нулю, одинаковые значения считаются признаком дубликата.

Иногда алгоритм предусматривает проверку имён – тоже важный параметр для поиска, тем более что одинаковые данные в большинстве случаев совпадают и по названию.

Преимуществами программ являются возможность найти с их помощью файлы любого типа и сравнительно высокая скорость работы. Недостаток – меньшая точность обнаружения. Так, например, ни одна из таких утилит не посчитает дубликатом одну и ту же фотографию, сохранённую с различным разрешением.

1. DupKiller

Приложение, обеспечивающее поиск файлов практически с любым расширением, можно бесплатно скачать на официальном сайте его производителя.

Среди отличий программы – интерфейс на русском языке, быстрая работа и большое количество настроек.

С помощью DupKiller можно сравнивать файлы и по размеру, и по дате, и по содержимому (последняя возможность поддерживается только для определённых типов).

Рис. 1. Окно программы DupKiller.

2. Duplicate Finder

Приложение Duplicate Finder позволяет не только искать дубликаты файлов с разными расширениями, но и проводить их сортировку.

Для удобства пользователей настройки утилиты позволяют проводить поиск и по размерам, и по контрольным суммам, и по названию.

Кроме того, с её помощью можно удалять пустые папки и «нулевые» файлы. А среди недостатков можно назвать разве что отсутствие поддержки русского языка.

Рис. 2. Результат работы приложения Duplicate Finder.

3. Glary Utilities

Программа представляет собой не одну утилиту, а сразу несколько – для исправления реестра, для очистки диска и даже для управления безопасностью.

Одно из приложений в наборе даёт возможность искать дубликаты файлов. Среди преимуществ утилиты – русский интерфейс.

К минусам можно отнести определённое замедление работы компьютера при использовании приложения.

Рис. 3. Утилита поиска дубликатов в составе пакета Glary Utilities.

Как повысить ФПС в играх: все возможные способы 2017 года

4. CCleaner

Главной задачей многофункциональной программы CCleaner является очистка жёсткого диска компьютера (а также планшета и смартфона, так как у приложения есть версии и для Android). А среди её преимуществ можно отметить:

• простоту настройки;
• установку нескольких критериев поиска;
• возможность игнорировать некоторые файлы (с определённым размером или датой создания, а также системные или скрытые).

Важно: При обнаружении файлов с нулевым размером их не обязательно удалять. Иногда это может быть информация, созданная в другой операционной системе (например, Linux).

Рис. 4. Программа для оптимизации системы CCleaner может искать и дубликаты файлов.

5. AllDup

Среди преимуществ ещё одной программы, AllDup, можно отметить поддержку любой современной операционной системы Windows – от XP до 10-й. При этом поиск ведётся и внутри скрытых папок, и даже в архивах.

Хотя сравнение информации по умолчанию происходит по названиям файлов, поэтому настройки желательно сразу же изменить. Зато в процессе поиска каждый найдённый дубликат можно просмотреть, не закрывая приложение.

А при обнаружении копии её можно не только удалить, но и переименовать или перенести в другое место. К дополнительным преимуществам приложения относится русскоязычное меню и полностью бесплатная работа в течение любого периода времени.

Кроме того, производитель выпускает ещё и портативную версию для того чтобы искать копии на тех компьютерах, на которых запрещена установка постороннего ПО (например, на рабочем ПК).

Рис. 5. Поиск файлов с помощью portable-версии AllDup.

6. DupeGuru

Ещё одним полезным приложением, проводящим поиск дубликатов с любым расширением, является DupeGuru. Её единственный недостаток – отсутствие новых версий для Windows (при этом обновления для Linux и MacOS появляются регулярно).

Впрочем, даже сравнительно устаревшая утилита для Виндоус 7 неплохо справляется со своими задачами и при работе в более новых ОС. С её помощью легко обнаруживаются даже системные файлы, а меню интуитивно понятное и русскоязычное.

Рис. 6. Обнаружение копий с помощью утилиты DupeGuru.

Примечательно, что, кроме обычного универсального варианта, компания-производитель создала утилиту для поиска файлов определённого типа. Существует отдельная версия для изображений и ещё одна для музыки.

И, при необходимости очистить свой компьютер не только от документов и системных файлов (которые, кстати, требуется удалять очень осторожно – иногда стоит даже оставить «лишнюю» копию, чем нарушить работоспособность системы), стоит скачать и эти приложения.

7. Duplicate Cleaner Free

Утилита для обнаружения копий любого файла Duplicate Cleaner Free отличается следующими особенностями:

• фильтрации данных по расширению;
• русским языком интерфейса;
• возможность бесплатного использования;
• высокой скоростью работы.

К её недостаткам относят небольшие ограничения при поиске изображений (для этого рекомендуется приобрести платную версию) и не совсем точный перевод отдельных элементов меню с английского языка. Тем не менее, благодаря своей эффективности и удобству использования, приложение пользуется определённой популярностью.

Рис. 7. Поиск дубликатов с помощью утилиты Duplicate Cleaner Free.

Поиск дубликатов аудио файлов

Если результаты поиска дубликатов не устраивают пользователя, можно рассмотреть вариант, предназначенный для определённых файлов. Например, для музыки, скопившейся на диске.

Такая необходимость часто возникает при загрузке сразу нескольких альбомов и сборников одного и того же исполнителя – нередко в разных папках оказываются одинаковые треки.

Они могут иметь похожие размеры и отличаться, по большому счёту, только названиями. Специально для этого существуют утилиты для поиска похожих мелодий.

8. Music Duplicate Remover

Среди особенностей программы Music Duplicate Remover – сравнительно быстрый поиск и неплохая эффективность. Фактически, это приложение как бы «прослушивает» композицию и проводит её сравнение с другими аудио файлами.

При этом, естественно, время её работы больше, чем у универсальных утилит. Однако количество проверяемых программой данных, как правило, в десятки раз меньше, поэтому средняя продолжительность проверки редко превышает пару часов.

Рис. 8. Обнаружение копий музыки и аудио файлов по альбомам.

9. Audio Comparer

Среди преимуществ утилиты Audio Comparer – очень простое меню и быстрый поиск копий музыки. Так, среди нескольких тысяч аудио файлов она находит копии и дубликаты (естественно, при их наличии) всего за 1–2 часа.

При этом для обнаружения не имеет значения ни размер трека, ни его битрейт (битность, то есть качество звука, изменение которого приводит к другому объёму данных при той же продолжительности мелодии).

Рис. 9. Поиск дубликатов с помощью Audio Comparer.

10. DupeGuru Music Edition

Приложение представляет собой одну из дополнительных версий бесплатной утилиты DupeGuru. Скорость её работы меньше, чем у универсального варианта, зато вероятность обнаружения дубликата аудио файла в несколько раз выше.

Принципы работы и интерфейс практически полностью повторяют базовую программу, а одним из главных преимуществ является то, что Music Edition считает «оригиналами» музыку с лучшим битрейтом. А, значит, что удаление дубликатов не приведёт к потере более качественных аудио файлов.

Рис. 10. Версия DupeGuru для поиска дубликатов музыки.

Поиск копий фото и других изображений

Не менее часто пользователю может потребоваться удалить дубликаты изображений. Особенно, если на жёстком диске находится несколько сборников с личными фотографиями, отсортированными по датам или местам съёмки.

С помощью специального программного обеспечения лишние фото и картинки будут обнаружены и уничтожены, а места на HDD (SDD, флешке и другом накопителе) станет больше.

11. DupeGuru Picture Edition

Приложение для поиска одинаковых картинок является ещё одним вариантом утилиты DupeGuru, которую тоже можно (и даже желательно) скачать даже при наличии универсальной версии. При этом анализ фото тоже длится дольше по сравнению с поиском файлов любого расширения, но результат оправдывает себя.

Изображения определяются даже в том случае, когда на диске находятся несколько дубликатов одной картинки, но с разным разрешением и, соответственно, размером. Кроме того, для повышения эффективности проверяются файлы с любыми графическими расширениями – от.jpg до.png.

Рис. 11. Поиск картинок с помощью ещё одной версии DupeGuru.

12. ImageDupeless

Программа ImageDupeless отличается высокой скоростью работы и небольшим размером, что может оказаться важным при использовании, например, для её скачивания мобильного 2G-интернета.

При этом она распространяется бесплатно и имеет русский интерфейс. А производитель периодически выпускает к ней обновления, повышая эффективность поиска изображений.

Рис. 12. Стильный интерфейс приложения ImageDupeless.

13. Image Comparer

Преимуществами приложения Image Comparer, кроме простого интерфейса, можно назвать наличие пошагового мастера, позволяющего научиться быстрому и результативному поиску изображений.

Эта особенность отличает утилиту от большинства остальных, для работы с которыми придётся читать файлы справки, не всегда правильно переведённые (а иногда и вообще предоставляемые только на английском).

Фактически, приложение является ещё одной версией Audio Comparer, и тоже распространяется по «условно бесплатной» лицензии – то есть за определённые функции пользователю придётся заплатить.

Рис. 13. Приложение Image Comparer – неплохой способ найти дубликаты картинок.

Поиск копий фильмов и видео

Кроме музыки и изображений, ещё одним типом данных, дубликаты которых ищутся отдельно, являются файлы видео. Ведь при наличии 1–2 или даже 4 терабайт места на жёстком диске на нём могут «потеряться» даже фильмы.

Или домашние видеоролики, распределённые по разным каталогам. Сэкономить пространство, удаляя копии видео, можно с помощью специализированных утилит, количество которых намного меньше по сравнению с приложениями для поиска других файлов.

14. Duplicate Video Search

Работа программы Duplicate Video Search основана на сравнении битрейтов, размеров и названий.

При этом сравниваются также разные форматы – .avi, .mpeg4, .mkv и т. д. А результаты выдаются в виде миниатюр с характеристиками файлов.

Рис. 14. Результаты поиска видео программой Duplicate Video Search.

15. Video Comparer

Приложение Video Comparer отличается высокой эффективностью. Однако обладает существенным недостатком для отечественного пользователя – работа утилиты бесплатная только в течение первых 30 дней (после которых придётся либо приобретать полную версию, либо тщательно чистить реестр и ещё раз устанавливать ознакомительную).

Кроме того, интерфейс программы только английский. Однако для тех людей, которые постоянно работают с видео на профессиональном уровне, можно задуматься и над покупкой приложения.

Тем более что стоит оно всего лишь 20 евро для домашнего использования и отличается очень высокой скоростью – за 40 минут проверяется до 500 роликов любого размера.

Рис. 15. Определение дубликатов видео с помощью Video Comparer.

Выводы

Преимущества программ для поиска копий файлов достаточно серьёзные для того чтобы хотя бы одна из них была установлена на каждом компьютере.

Особенно, если пользователь постоянно скачивает из сети различную информацию. С помощью утилит, обнаруживающих дубликаты, можно сэкономить не один час своего времени и несколько гигабайт места на диске.

После постоянного пользования компьютером, на его дисках накапливаются большие объёмы данных, т. е. всякие фотографии, видео, фильмы, музыка, документы и прочее. Эти данные занимают много места. Но очень часто слишком много места занимают дубликаты файлов.

В Windows, к сожалению, нет нормальных встроенных средств для поиска дубликатов файлов. Есть вариант сделать это через командную строку PowerShell, но это очень неудобно, тем более для новичков будет сложновато. Поэтому проще воспользоваться сторонними программами. Одна из таких называется AllDup. Она полностью бесплатная, доступна на русском языке, поддерживается всеми операционными системами Windows и, наконец, довольно проста в использовании.

Загрузка и установка программы AllDup

Программу можно загрузить бесплатно с официального сайта AllDup. Ниже ссылка на раздел загрузки:

Программа доступна в 2-х вариантах: обычном установочном и портативном (Portable). Портативный отличается тем, что не требует установки на компьютер, т. е. программу можно будет запускать прямо из скачанной папки.

Для загрузки нажмите кнопку «Server #1», либо «Server #2» или «Server #3» (если по первой кнопке загрузки не происходит, даны запасные серверы) под нужной версией программы.

За свежими версиями всегда обращайтесь к официальному сайту AllDup!

Установка программы очень проста, можно сказать состоит из последовательных нажатий «Далее», никаких специальных настроек производить не нужно. Поэтому данный процесс рассмотрен не будет. Смотрите также Как отключить или удалить OneDrive в Windows 10 и .

Поиск дубликатов при помощи AllDup

После того как установили программу, запустите её. Откроется главное окно для настроек поиска:

Настройка поиска включает в себя несколько этапов:

Выбор папок на ваших дисках, где программа AllDup будет искать дубликаты.

Папки выбираются в разделе «Исходные папки». Вы можете отметить как целые локальные диски, так и отдельные папки на вашем компьютере. Обычно пользователи примерно предполагают, где могут располагаться дубликаты и в этом случае лучше выбрать конкретные папки, потому что поиск целиком по всем дискам, во-первых, может занять много времени (зависит от объёма хранящихся данных), а во-вторых, выдаст вам кучу дубликатов тех файлов, которые вам не интересуют (например, дубли всяких системных файлов Windows, которые лучше вообще не трогать).

Итак, выберите в окне нужные папки / диски для поиска, поставив напротив них галочки. Если нужной папки нет в списке, вы можете добавить её вручную, нажав правой кнопкой мыши (далее «ПКМ») в окне и выбрав «Добавить папку».



Откроется проводник, где вам осталось выбрать нужную папку и она будет добавлена в список.

Остальные параметры на данном этапе лучше оставить как есть. Смотрите также Способы взлома Ваших паролей и Ограничение времени работы в Windows 10 .

Метод поиска дублей.

Это важный этап, где вы настраиваете, по каким критериям AllDup будет определять наличие дублей. Можно задать сразу несколько критериев. Всё дело в том, что ведь не всегда схожие файлы могут считаться дублями. Например, у вас 2 одинаковых фотографии, но на одной из них стоит мелкая чёрная точка, пусть даже размером в 1 пиксель. В этом случае это уже другая фотография, потому что отличается её содержимое. С другой стороны у этих 2-х фотографий может быть одинаковое имя файлы, одинаковое расширение файлы и при выборе последних 3-х критериев, программа при поиске расценит эти фотки как одинаковые.

• Имя файла;

  Расширение файла;

  Размер файла;

  Содержимое файла.

При таком выборе, вы наверняка безошибочно найдёте действительно файлы-дубликаты.

Таким образом отметьте критерии и больше на данном этапе можно ничего не настраивать.



Фильтрация файлов.

Вы можете настроить программу так, чтобы она в ходе поиска находила только файлы с нужными вам расширениями, например, только фотографии JPG, только видео MP4. Это очень удобно, когда вы знаете, от каких дубликатов хотите прежде всего избавиться (например, от видео, потому что оно много места может занимать) и не хотите потом в результатах поиска перерывать все подряд файлы, коих может насчитываться тысячами. Или можете отсеивать файлы по размеру, к примеру, находить только те, размер которых более 1 Гб.

Таким образом, на вкладке «Фильтр файлов» включите опцию «Использовать фильтр файлов» (1), отметьте «Включительно» (2), после чего ниже (3) выберите расширения файлов, которые программа будет находить. Файлы любых других расширений не будут выведены в результатах поиска.



Скорее всего в списке расширений будут не все, которые могут вам понадобиться. Чтобы добавить туда расширение, щёлкните ПКМ и выберите «Добавить фильтр путём ввода текста».



В открывшемся окне (1) введите *.расширение_файла, где вместо «расширение_файла», соответственно, укажите нужное вам расширение файла, чтобы программа эти файлы находила в поиске.



Например, если хотите, чтобы программа находила видео формата AVI, пишите, *.avi и нажимаете «ОК» (2). Символ «*» означает, что названия файлов могут быть любыми.

На этом же этапе вы можете настроить фильтрацию файлов в результате поиска по их размеру, например, чтобы отсеивались те, которые меньше заданного вами размера. Укажите нужные параметры внизу, под заголовком «Размер файла». В моём примере включена опция, исключающая файлы, размер которых меньше 500 Кб. Также Вам будет интересно Средство записи действий пользователя при возникновении неполадок и Не запускается компьютер и ноутбук на Windows 10. Как исправить? .

Это все основные этапы настройки поиска, остальные можно не задействовать.

Теперь, для запуска поиска дубликатов, нажмите кнопку «Поиск» вверху окна AllDup:

Начнётся процесс поиска.

Чем больше файлов в указанных вами папках находится на ваших дисках, тем дольше будет идти поиск.

После того как поиск будет завершён, программа в виде таблицы отобразит найденные файлы с дубликатами.

Первое, что лучше сделать сразу — сохранить результаты поиска, потому что если вы сейчас закроете это окно с результатами, то потом поиск придётся выполнять заново. Для сохранения нажмите кнопку с изображением дискеты, либо выберите в верхнем меню «Результат поиска» и нажмите «Сохранить результат поиска».

Теперь, даже если вы выключите компьютер, запустив потом программу снова, вы сможете вновь добраться до результатов поиска.

Результаты поиска вы можете отсортировать по разным параметрам, кликая по заголовкам столбцом в таблице. Наиболее полезный, на мой взгляд, критерий для сортировки — размер файлов. Поэтому, если хотите чтобы вверху таблицы отображались самые большие найденные файлы, то кликните по столбцу «Размер (Байт)».

Следующее, что лучше настроить для удобства просмотра результатов — отображаемый размер. Изначально размер файлов программа показывает в байтах, что не очень удобно. Лучше выставить отображение в мегабайтах или даже гигабайтах. Для этого нажмите кнопку, отмеченную на скриншоте ниже (1), после чего отметьте один из вариантов (2):

Теперь остановлюсь на том, как, собственно, пользоваться результатами поиска, как посмотреть и удалить ненужные дубликаты…

Найденные дубликаты программа делит на так называемые группы. Одна группа — это все найденные копии одного и того же файла, включая оригинал (он тоже будет отображаться в этой группе).

Чтобы посмотреть дубликаты одной из групп, нужно её открыть, кликнув по стрелочке. Пример:

Раскрыв определённую группу, вы можете проверить, что это за файл, открыв его. Для этого просто дважды кликните по файлу в группе, либо нажмите ПКМ и выберите «Открыть файл». Файл будет открыт через стандартную программу Windows, через которую у вас обычно открываются все файлы выбранного типа.

Чтобы удалить дубликаты, отметьте их галочкой, щёлкните ПКМ и выберите один из вариантов: удаление файла в корзину Windows, либо безвозвратное удаление.

Соответственно, не удаляйте все файлы из группы, потому что так вы удалите и дубликаты и оригинал сразу! Например, если в группе 3 файла, то удалив сразу 3, вы удалите и оригинал и 2 дубликата. В этом случае, чтобы сохранить только одну единственную копию файла, вам нужно удалить 2 файла из группы.

Таким образом вы можете проверять отдельно каждую группу и удалять дубликаты. Но если информации найдено очень много, можно сделать проще. Сделать так, чтобы программа автоматически выбрала в каждой группе все файлы, кроме одного (т. е. только дубликаты), после чего вы можете разом избавиться от всех дубликатов или перед этим пробежаться и перепроверить, точно ли всё отмеченное подлежит удалению.

Чтобы автоматически отметить дубликаты, зайдите в меню «Выбор» (1) и отметьте включите там один из вариантов (2), например, «Выбрать все файлы, за исключением первого файла».

В результате программа в каждой группе выделит 2 дубликата, а первый в списке файл оставит не выбранным. Т.е. таким образом вы отметите 2 дубликата, а оригинал останется не отмеченным. Или же можете через меню «Выбор» попробовать другие опции, удобные вам.

После того как программа отметила файлы, вы можете перепроверить выбор, если требуется. А чтобы быстро всё ненужное удалить или выполнить какое-то другое действие, нажмите кнопку, отмеченную на скриншоте ниже:

В открывшемся окне вы увидите общий объём выбранных файлов, т. е. сколько места занимают найденные дубликаты и количество выбранных файлов. Внизу вам нужно выбрать действие над выбранными файлами. Вы можете удалить файлы через корзину, удалить безвозвратно (пункт «Удаление файлов»), скопировать или переместить файлы в какую-либо папку, а также переименовать найденные дубликаты. Если вы уверены в том, что отмеченные файлы являются дубликатами и больше вам не нужны, то проще их удалить, но в любом случае, выбор за вами.

Итак, выберите нужное действие (1) и нажмите «ОК» (2). Больше здесь можно ничего не настраивать.

После этого программа произведёт выбранное вами действие над отмеченными ранее файлами!

Вот в общем то и весь процесс:) Чтобы выйти из результатов поиска, просто закройте это окно. Если вы сохранили результаты поиска, то затем, если вам снова потребуется этот результат, вы можете добраться до него через раздел «Результат поиска» (1) в главном окне программы. Сохранённые вами результаты будут отображены в таблице (2). Чтобы открыть нужный результат просто кликните по нему дважды.

Заключение

AllDup - очень удобная программа для поиска дубликатов ваших файлов на компьютере. В программе нет по сути ничего лишнего, в ней есть все нужные инструменты, фильтры и параметры для быстрой обработки большого объёма найденных дубликатов. Конечно, есть и аналогичные программы, которые, наверняка, тоже хорошо справляются со своей задачей. Я пробовал пока что только AllDup и менять её пока не вижу никакого смысла.