【分割数据集操作集锦】毕设记录
创始人
2025-06-01 20:46:16

1. 按要求将CSV文件转成json文件

有时候一些网络模型的源码会有data.json这样的文件里面存放了训练集和验证集的信息,这里我们根据csv格式的表格生成json文件。

以下代码有下述功能:

  1. 选出同时出现在csv文件里和训练集文件夹中同名的文件按照自己需要加入列表。
  2. 将序号补全成文件名  fname='amos_'+str(id).zfill(4)+'.nii.gz'
  3. 根据json格式将1中列表补入字典

# 读取数据
import os
domainAB=[]
domainC=[]
imglist = os.listdir('/media/fsk/DATA1/AMOS22_total/imagesTr')
import csv
with open('/home/fsk/monai/nnprocess/data_perpare/data/data1.csv',encoding='UTF-8-sig') as csvfile:reader=csv.DictReader(csvfile)for i,row in enumerate(reader):id=row['id']fname='amos_'+str(id).zfill(4)+'.nii.gz'#print(fname)if fname in imglist:if i>=0 and i<=249:domainAB.append(fname)if i>=372 and i<=499:domainC.append(fname)# print(domainAB)
# print(domainC)dataset={"name": "AMOS", "description": "Amos: A large-scale abdominal multi-organ benchmark for versatile medical image segmentation", "author": "Yuanfeng Ji", "reference": "SRIDB x CUHKSZ x HKU x LGCHSZ x LGPHSZ", "licence": "CC-BY-SA 4.0", "release": "1.0 01/05/2022", "contact": "u3008013@connect.hku.hk", "tensorImageSize": "3D", "modality": {"0": "CT"}, "labels": {"0": "background", "1": "spleen",  "2": "gall bladder", "3": "esophagus", "4": "liver", "5": "stomach", "6": "arota", "7": "pancreas", "8": "right adrenal gland", "9": "left adrenal gland"},"numTraining": len(domainAB)+len(domainC),"numTest":len(domainC)}datasetDG={"name": "AMOS", "description": "Amos: A large-scale abdominal multi-organ benchmark for versatile medical image segmentation", "author": "Yuanfeng Ji", "reference": "SRIDB x CUHKSZ x HKU x LGCHSZ x LGPHSZ", "licence": "CC-BY-SA 4.0", "release": "1.0 01/05/2022", "contact": "u3008013@connect.hku.hk", "tensorImageSize": "3D", "modality": {"0": "CT"}, "labels": {"0": "background", "1": "spleen",  "2": "gall bladder", "3": "esophagus", "4": "liver", "5": "stomach", "6": "arota", "7": "pancreas", "8": "right adrenal gland", "9": "left adrenal gland"},"numTraining": len(domainAB),"numTest":len(domainC)}
training=[]
trainingDG=[]
test=[]
for i in range(len(domainAB)):img="./imagesTr/"+domainAB[i]label="./labelsTr/"+domainAB[i]dic={"image":img,"label":label}training.append(dic)trainingDG.append(dic)for i in range(len(domainC)):img="./imagesTr/"+domainC[i]label="./labelsTr/"+domainC[i]dic={"image":img,"label":label}training.append(dic)test.append(img)dataset['training']=training
datasetDG['training']=trainingDGdataset['test']=test
datasetDG['test']=test
import json
with open('data/dataset.json','w') as fp:json.dump(dataset,fp)with open('data/datasetDG.json','w') as fp:json.dump(datasetDG,fp)

2. 批量复制文件,将dir1中和dir2中交集文件全复制到dir3

# 导入os模块和shutil模块
import os
import shutil# 定义三个文件夹的路径
dir1 = "/media/fsk/DATA1/AMOS22_total/labelsTr"
dir2 = "/media/fsk/DATA1/nnunet/nnUNet_raw/nnUNet_raw_data/Task216_AMOS2022_task2_AB/inferTs"
dir3 = "/media/fsk/DATA1/nnunet/nnUNet_raw/nnUNet_raw_data/Task216_AMOS2022_task2_AB/labelsTs"# 遍历dir1中的文件
for file in os.listdir(dir1):# 拼接文件的完整路径file_path = os.path.join(dir1, file)# 判断是否是文件,而不是文件夹if os.path.isfile(file_path):# 判断dir2中是否存在同名文件if os.path.exists(os.path.join(dir2, file)):# 复制文件到dir3中,如果已存在则覆盖shutil.copy(file_path, dir3)

3. 批量修改文件名

  1. 补全文件名,比如在末尾加_000
  2. 将"img"改成"label"
import os
folder_path="/media/fsk/DATA1/BTCV/imagesTr"
for file in os.listdir(folder_path):filepath=os.path.join(folder_path,file)newfile=file.split('.')[0]+"_0000.nii.gz"#newfile=file.replace("img","label")newpath=os.path.join(folder_path,newfile)os.rename(filepath,newpath)

4. 多个数据集标签统一

这边需要特别注意!!!!

在替换标签值的时候注意顺序,比如: 如果先将label=1的设为label=5 然后再将label=5的设为label=7,那么label=1和label=5的都会变成label=7。


#顺序
#"0": "background", "1": "spleen",  "2": "gall bladder", "3": "esophagus", "4": "liver", "5": "stomach", "6": "arota", "7": "pancreas", "8": "right adrenal gland", "9": "left adrenal gland"
# 导入nibabel包
import nibabel as nib 
import numpy as np
import os
import time# 读取amos数据和标签
input_path='/media/fsk/DATA1/AbdomenCT/Mask'
output_path='/media/fsk/DATA1/AbdomenCT/new_Mask'
labels = os.listdir(input_path)
for label in labels:# print(label,os.path.join(input_path,label))amos_label = nib.load(os.path.join(input_path,label))# 获取浮点数矩阵amos_flabel = amos_label.get_fdata()# 获取不同的标签值print(label,np.unique(amos_flabel))# 替换你想要修改的标签值amos_flabel[np.where(amos_flabel == 6)] = 0amos_flabel[np.where(amos_flabel == 2)] = 0amos_flabel[np.where(amos_flabel == 12)] = 0amos_flabel[np.where(amos_flabel == 5)] = 6amos_flabel[np.where(amos_flabel == 7)] = 5amos_flabel[np.where(amos_flabel == 4)] = 7amos_flabel[np.where(amos_flabel == 1)] = 4amos_flabel[np.where(amos_flabel == 3)] = 1    amos_flabel[np.where(amos_flabel == 8)] = 2amos_flabel[np.where(amos_flabel == 9)] = 3amos_flabel[np.where(amos_flabel == 10)] = 8amos_flabel[np.where(amos_flabel == 11)] = 9new_amos_label=nib.Nifti1Image(amos_flabel,amos_label.affine)nib.save(new_amos_label,os.path.join(output_path,label))new_label = nib.load(os.path.join(output_path,label))# 获取浮点数矩阵new_flabel = amos_label.get_fdata()# 获取不同的标签值print(label,np.unique(new_flabel))

5. 读取pkl数据

#读取.pkl格式的文件
import pickle
path='/media/fsk/DATA1/nnunet/nnUNet_preprocessed/Task216_AMOS2022_task1/nnUNetPlans_bfnnUNet_fabresnet_31_plans_3D.pkl'    
f=open(path,'rb')
data=pickle.load(f)print(data)
print(len(data))

相关内容

热门资讯

【实验报告】实验一 图像的... 实验目的熟悉Matlab图像运算的基础——矩阵运算;熟悉图像矩阵的显示方法࿰...
MATLAB | 全网最详细网... 一篇超超超长,超超超全面网络图绘制教程,本篇基本能讲清楚所有绘制要点&#...
大模型落地比趋势更重要,NLP... 全球很多人都开始相信,以ChatGPT为代表的大模型,将带来一场NLP领...
Linux学习之端口、网络协议... 端口:设备与外界通讯交流的出口 网络协议:   网络协议是指计算机通信网...
kuernetes 资源对象分... 文章目录1. pod 状态1.1 容器启动错误类型1.2 ImagePullBackOff 错误1....
STM32实战项目-数码管 程序实现功能: 1、上电后,数码管间隔50ms计数; 2、...
TM1638和TM1639差异... TM1638和TM1639差异说明 ✨本文不涉及具体的单片机代码驱动内容,值针对芯...
Qt+MySql开发笔记:Qt... 若该文为原创文章,转载请注明原文出处 本文章博客地址:https://h...
Java内存模型中的happe... 第29讲 | Java内存模型中的happen-before是什么? Java 语言...
《扬帆优配》算力概念股大爆发,... 3月22日,9股封单金额超亿元,工业富联、鸿博股份、鹏鼎控股分别为3.0...
CF1763D Valid B... CF1763D Valid Bitonic Permutations 题目大意 拱形排列࿰...
SQL语法 DDL、DML、D... 文章目录1 SQL通用语法2 SQL分类3 DDL 数据定义语言3.1 数据库操作3.2 表操作3....
文心一言 VS ChatGPT... 3月16号,百度正式发布了『文心一言』,这是国内公司第一次发布类Chat...
CentOS8提高篇5:磁盘分...        首先需要在虚拟机中模拟添加一块新的硬盘设备,然后进行分区、格式化、挂载等...
Linux防火墙——SNAT、... 目录 NAT 一、SNAT策略及作用 1、概述 SNAT应用环境 SNAT原理 SNAT转换前提条...
部署+使用集群的算力跑CPU密... 我先在开头做一个总结,表达我最终要做的事情和最终环境是如何的,然后我会一...
Uploadifive 批量文... Uploadifive 批量文件上传_uploadifive 多个上传按钮_asing1elife的...
C++入门语法基础 文章目录:1. 什么是C++2. 命名空间2.1 域的概念2.2 命名...
2023年全国DAMA-CDG... DAMA认证为数据管理专业人士提供职业目标晋升规划,彰显了职业发展里程碑及发展阶梯定义...
php实现助记词转TRX,ET... TRX助记词转地址网上都是Java,js或其他语言开发的示例,一个简单的...
【分割数据集操作集锦】毕设记录 1. 按要求将CSV文件转成json文件 有时候一些网络模型的源码会有data.json这样的文件里...
Postman接口测试之断言 如果你看文字部分还是不太理解的话,可以看看这个视频,详细介绍postma...
前端学习第三阶段-第4章 jQ... 4-1 jQuery介绍及常用API导读 01-jQuery入门导读 02-JavaScri...
4、linux初级——Linu... 目录 一、用CRT连接开发板 1、安装CRT调试工具 2、连接开发板 3、开机后ctrl+c...
Urban Radiance ... Urban Radiance Fields:城市辐射场 摘要:这项工作的目标是根据扫描...
天干地支(Java) 题目描述 古代中国使用天干地支来记录当前的年份。 天干一共有十个,分别为:...
SpringBoot雪花ID长... Long类型精度丢失 最近项目中使用雪花ID作为主键,雪花ID是19位Long类型数...
对JSP文件的理解 JSP是java程序。(JSP本质还是一个Servlet) JSP是&#...
【03173】2021年4月高... 一、单向填空题1、大量应用软件开发工具,开始于A、20世纪70年代B、20世纪 80年...
LeetCode5.最长回文子... 目录题目链接题目分析解题思路暴力中心向两边拓展搜索 题目链接 链接 题目分析 简单来说࿰...