[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
5 G- E" q8 _8 ^& @大哥，你这个头像很爱啊，像ai又想vam，有没有出处

抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
4 N, v# R* S7 P2 m. [/ jimport imagehash
/ Q; E; s% L0 q) Lfrom PIL import Image

8 C, M. D, |% |" z; f: U% mdef compute_image_hash(image_path):
    # image = Image.open(image_path)
$ n7 O; t( T  @) \2 I  ]5 N& j    # return imagehash.average_hash(image)
    try:
0 g: G& a/ F1 V3 A& b) k9 m        with Image.open(image_path) as image:
            return imagehash.average_hash(image)
! a+ T& |! |5 P# {$ X5 u5 l    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
        return None
# n3 V% w1 i* `- O+ s( C# \
  w! u' B1 x3 p5 B# b& }4 wdef remove_duplicates(image_folder):
    hash_dict = {}
6 h/ r( e9 \4 b  o/ ?2 n; Z    duplicates = []
9 b3 Y% W( f: Z9 P! v
) t9 Z; h- @# d- x. j. k1 v    for filename in os.listdir(image_folder):
& F7 @8 W! P1 q3 S+ @- ]' i        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
/ Q( O% E" P' M; k/ y  C$ O0 j            image_path = image_folder + "\\" + filename
            image_hash = compute_image_hash(image_path)
: M) Z' m- v$ D1 t8 i# a6 n: W
0 ^9 J& i6 r7 z$ B) ]% S            if image_hash in hash_dict:
                duplicates.append(image_path)
            else:
                hash_dict[image_hash] = image_path
        else:
            pass

    for duplicate in duplicates:
        os.remove(duplicate)
0 ]( S* D$ d# D* Y        print(f"Removed duplicate image: {duplicate}")
3 }4 F: ]1 _  E5 V/ h! T! e8 _  T
1 T, ^# {6 c& S0 \7 t* X) y" w    print("Duplicate removal complete.")

& t! Z& \9 Y. F  V% x5 ^image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
# L: a- {* E( \8 D+ _$ U: Oremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

( B1 g6 _: ]6 k有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
# u1 Z+ k& d; n# m3 t0 j  d) v大哥，你这个头像很爱啊，像ai又想vam，有没有出处

一眼ai
, {) Z  e, `1 F* Q; e. s