统一识别_图计算| 学习笔记

简介: 快速学习统一识别_图计算

开发者学堂课程【2020版大数据实战项目之 DMP 广告系统(第七阶段)统一识别_图计算】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/682/detail/11840


统一识别_图计算

统一识别的环境对象已经完成了,回到 mainId 方法中

// 格式:mainId, tads

// mainId -> ID,按照顺序取得,第一个非空的就是主 ID

// tags -> GDmale:1,A20:1

// 步骤:

①将数据集转换为 Vertex Edge 的数据集

②图计算

③结果聚合

①将数据集转换为 Vertex Edge 的数据集

val vertex = idsAndTags.map(item => Vertex(item.mainId,

item.ids, item.tags))

// vertex 可以直接通过idsAndTags进行map, idsAndTags

中的类型是 IdsWithTags

item 转成 Vertex 对象,

Vertex 对象第一项接收 id, item 有一个mainId, 第二项 item

中有一个 ids, 第三项item 中有一个 tags

生成之后val edge = idsAndTags.flatMap(item => {

// uuid -> lasdkfakjh mac -> jaksdhfiah1231kjjh

// 一定要注意边的生成,是一对多的,是一个笛卡尔积

val ids: Map[String, String] = item.ids

val result: immutable.Iterable[Edge] = for (id <- ids; otherId

<- ids if id != otherId) yield Edge(id Edge(id._2,otherId._2)

result

})

// 生成一个边的集合 edge , 拿到 idsAndTags.Map(item ,生

Edge , Edge 中第一项是一个 source, 第二项是一个

destination, 但这样不能直接创建出 Edge;所以先拿到 ids, 可

通过 item.ids 获取到,ids是一个 map 类型,对应的第一项是 id

key 也是类型,第二项是id 的值“value”;

Ids 中可能是 uuid 对应 lasdkfakjh, 第二项 mac 对应

jaksdhfiah1231kjjhuuid 要和 mac 地址连接起来。生成全链接,

for 循环,拿到 id, ids 中取出一个 id, 它对应的是一个元

组,第一项是key,第二项是“value”,使用分号,嵌套 for 循环,

拿到 otherId <- ids,判断 if id != otherId,写一个 yield  生成

Edge, id otherId 取其中的第二项,数据集命名为val result

展平使用 flatMapEdge生成了,也生成了多个边。

// ②图计算

Val components = GraphFrame(vertex.toDF(), edge.toDF()).connectedComponents.run()

// GraphFrame 接收的对象为 vertex edge 的数据集,但 GraphFrame 只能接收 dateFrame, 所以需使用 toDF, 进行connectedComponents.run就获取到了components

// ③聚合

}

注意点:

边的生成是一对多的,是一个笛卡尔积

相关文章
|
4天前
|
数据采集 人工智能 安全
|
13天前
|
云安全 监控 安全
|
5天前
|
自然语言处理 API
万相 Wan2.6 全新升级发布!人人都能当导演的时代来了
通义万相2.6全新升级,支持文生图、图生视频、文生视频,打造电影级创作体验。智能分镜、角色扮演、音画同步,让创意一键成片,大众也能轻松制作高质量短视频。
1092 152
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
Z-Image:冲击体验上限的下一代图像生成模型
通义实验室推出全新文生图模型Z-Image,以6B参数实现“快、稳、轻、准”突破。Turbo版本仅需8步亚秒级生成,支持16GB显存设备,中英双语理解与文字渲染尤为出色,真实感和美学表现媲美国际顶尖模型,被誉为“最值得关注的开源生图模型之一”。
1767 9
|
10天前
|
人工智能 自然语言处理 API
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸
一句话生成拓扑图!next-ai-draw-io 结合 AI 与 Draw.io,通过自然语言秒出架构图,支持私有部署、免费大模型接口,彻底解放生产力,绘图效率直接爆炸。
700 152
|
12天前
|
人工智能 安全 前端开发
AgentScope Java v1.0 发布,让 Java 开发者轻松构建企业级 Agentic 应用
AgentScope 重磅发布 Java 版本,拥抱企业开发主流技术栈。
663 13
|
7天前
|
SQL 自然语言处理 调度
Agent Skills 的一次工程实践
**本文采用 Agent Skills 实现整体智能体**,开发框架采用 AgentScope,模型使用 **qwen3-max**。Agent Skills 是 Anthropic 新推出的一种有别于mcp server的一种开发方式,用于为 AI **引入可共享的专业技能**。经验封装到**可发现、可复用的能力单元**中,每个技能以文件夹形式存在,包含特定任务的指导性说明(SKILL.md 文件)、脚本代码和资源等 。大模型可以根据需要动态加载这些技能,从而扩展自身的功能。目前不少国内外的一些框架也开始支持此种的开发方式,详细介绍如下。
454 5