成功获取到数据之后,我们需要将数据放到Pytorch里面去处理,我们需要将其转换成Dataset数据集,方便去使用相同的API。要转换成Dataset数据集需要实现两个方法,方法一: 方法二:
运行比较慢的话,需要加入缓存 的方法:
缓存部分
@functools.lru_cache(1,typed=True)
def getCt(series_uid):
return Ct(series_uid)
@raw_cache.memoize(typed=True)
def getCtRawCandidate(series_uid,center_xyz,width_irc):
ct = getCt(series_uid)
ct_chunk,center_irc = ct.getCtRawCandidate(center_xyz,width_irc)
return ct_chunk,center_irc
def len(self):
return len(self.candidateInfo_list)
def getitem(self,ndx):
candidateInfo_tup = self.candidateInfo_list[ndx]
width_irc = (32,48,48)
candidate_a,center_irc = getCtRawCandidate(candidateInfo_tup.series_uid,candidateInfo.center_xyz,width_irc)
#转换为张量
candidate_t = torch.from_numpy(candidate_a)
#转换为浮点数
cadidate_t = candidate_t.to(torch.float32)
#进行升维
cadidate_t = candidate_t.unsqueeze(0)
#处理标注信息
post_t = torch.tensor([not candidateInfo_tup.isNodule_boool,candidateInfo_tup.isNodule_boool],dtype=torch.long)
#返回资源组
return (candidate_t,post_t,candidateInfo_tup.series_uid,torch.tensor(center_irc))
使用Dataset提供的方案,将数据分割为数据集和验证集
class LunaDataset():
def init(self,val_stride=0,isValSet_bool=None,series_uid=None):
self.candidateInfo_list = copy.copy(getCandidateInfoList())
if series_uid:
self.candidateInfo_list = [x for in self.candidateInfo_list if x.series_uid == series_uid]
#是否是验证集
if isValSet_bool:
增加异常捕获信息
assert val_stride>0,val_stride
返回验证集的步长信息,步长信息就是对验证集进行切分的
self.candidateInfo_list = self.candidateInfo_list[::val_stride]
assert self.candidateInfo_list
如果不是验证集,就是训练集
elif val_stride>0:
del self.candidateInfo_list[::val_stride]
assert self.candidateInfo_list
log.info("(!r): {} {} samples".format(
self,len(self.candidateInfo_list), "Validation" if isValSet_bool else "training"
))