[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
( i, {4 z, g& f1 Mimport imagehash
from PIL import Image
3 C4 i- x7 A; k& ~0 `2 j3 i- E
def compute_image_hash(image_path):
5 f6 V" d2 N. C) W2 ]( e# {    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
0 m4 S% U% l  [! |$ b0 m    try:
5 O4 P; Q0 K1 P1 s3 U! T% u        with Image.open(image_path) as image:
            return imagehash.average_hash(image)
! i/ q% d9 R' D% f    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
        return None

* l8 y" w' d4 {def remove_duplicates(image_folder):
    hash_dict = {}
! F/ S' A! a/ R0 H& ~$ z7 `9 c9 R    duplicates = []
! y: K9 m3 F. u5 A
    for filename in os.listdir(image_folder):
; T' V$ u2 b1 b$ a- U4 G        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
            image_path = image_folder + "\\" + filename
# v$ S2 N+ j7 @, H5 v; p, }4 @            image_hash = compute_image_hash(image_path)

8 X% f( y; |- u% E            if image_hash in hash_dict:
0 N. {. y' B' K8 e; B' B                duplicates.append(image_path)
. C$ b2 D, o1 M4 o. a( j! E7 n            else:
                hash_dict[image_hash] = image_path
        else:
            pass
6 r$ E7 n9 Y; z
; ^$ @' U1 v8 `; w    for duplicate in duplicates:
        os.remove(duplicate)
/ ^, h0 h; G. F        print(f"Removed duplicate image: {duplicate}")
& n  G7 s: M3 P' w$ q; B% A! l
    print("Duplicate removal complete.")

% K% e7 @$ j  l' O1 rimage_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
  z9 }+ [- Q, m% i4 `. k6 Vremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
* Y1 e0 ^/ D/ E4 N3 z+ {有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

. M$ ?9 m' e9 T+ F6 U一眼ai
) Q# q6 M% L, }