Pytorch在二进制层面比较张量中的各行是否相同,并返回不相同的各行

代码实例:

python 复制代码
def unique(arr):
    # Finds unique rows in arr and return their indices
    arr = arr.cpu().numpy()
    arr_ = np.ascontiguousarray(arr).view(np.dtype((np.void, arr.dtype.itemsize * arr.shape[1])))
    _, idxs = np.unique(arr_, return_index=True)
    if torch.cuda.is_available():
        return torch.LongTensor(np.sort(idxs)).cuda()
    return torch.LongTensor(np.sort(idxs))

在 NumPy 中,.view() 方法用于创建数组的新视图,而不实际复制底层数据。在这种情况下,.view(np.dtype((np.void, arr.dtype.itemsize * arr.shape[1]))) 的目的是将数组 arr 转换为一个以字节为单位的视图,以便后续的操作更加灵活。

具体来说,这一行代码的操作步骤如下:

  1. np.ascontiguousarray(arr): 确保数组是按照内存中的顺序(C 风格)连续存储的,这对于后续的视图操作很重要。

  2. .view(np.dtype((np.void, arr.dtype.itemsize * arr.shape[1]))): 创建一个新的视图,该视图将数组的每一行都视为一个字节块np.dtype((np.void, arr.dtype.itemsize * arr.shape[1]))定义了这个字节块的数据类型,其中 arr.dtype.itemsize * arr.shape[1] 表示每一行的总字节数。这样,整个数组被视为一个由字节块组成的虚拟类型数组。

  3. np.void 是 NumPy 中的数据类型,表示**"虚拟"类型**。它通常用于表示内存块,而不考虑具体的数据类型。在这里,np.void 被用于创建一个足够大的数据类型,以便能够容纳整个行数据

    在特定的上下文中,np.void 类型的一个实例可能包含多个数据类型的字段,但在这里它主要用于以字节的形式表示整个行的内容,而不考虑具体的数值类型。这使得在内存中视图上进行操作更加灵活,而不依赖于原始数据类型

这种方式的操作在某些情况下很有用,尤其是在处理复杂的数据结构或需要比较原始二进制数据时。在这里,可能是为了实现对行的快速唯一性检查,因为 .unique() 方法在处理复杂数据类型时可能会遇到一些问题。

相关推荐
会飞的老朱28 分钟前
医药集团数智化转型,智能综合管理平台激活集团管理新效能
大数据·人工智能·oa协同办公
聆风吟º2 小时前
CANN runtime 实战指南:异构计算场景中运行时组件的部署、调优与扩展技巧
人工智能·神经网络·cann·异构计算
寻星探路2 小时前
【深度长文】万字攻克网络原理:从 HTTP 报文解构到 HTTPS 终极加密逻辑
java·开发语言·网络·python·http·ai·https
Codebee4 小时前
能力中心 (Agent SkillCenter):开启AI技能管理新时代
人工智能
聆风吟º5 小时前
CANN runtime 全链路拆解:AI 异构计算运行时的任务管理与功能适配技术路径
人工智能·深度学习·神经网络·cann
uesowys5 小时前
Apache Spark算法开发指导-One-vs-Rest classifier
人工智能·算法·spark
AI_56785 小时前
AWS EC2新手入门:6步带你从零启动实例
大数据·数据库·人工智能·机器学习·aws
User_芊芊君子5 小时前
CANN大模型推理加速引擎ascend-transformer-boost深度解析:毫秒级响应的Transformer优化方案
人工智能·深度学习·transformer
ValhallaCoder5 小时前
hot100-二叉树I
数据结构·python·算法·二叉树
智驱力人工智能5 小时前
小区高空抛物AI实时预警方案 筑牢社区头顶安全的实践 高空抛物检测 高空抛物监控安装教程 高空抛物误报率优化方案 高空抛物监控案例分享
人工智能·深度学习·opencv·算法·安全·yolo·边缘计算