[oeasy]python0135_python_语义分析_ast_抽象语法树_abstract_syntax_tree

简介: [oeasy]python0135_python_语义分析_ast_抽象语法树_abstract_syntax_tree

语义分析_抽象语法树_反汇编 回忆

  • 上次回顾了一下历史
  • python 是如何从无到有的
  • 看到 Guido 长期的坚持和努力


添加图片注释,不超过 140 字(可选)

  • python究竟是如何理解
  • print("hello")的?
  • 这些ascii字母如何被组织起来执行?


纯文本

  • 首先编写Guido的简历

print("1982------Guido in cwi") print("1995------Guido in cnri") print("2000------Guido in beopen") print("2005------Guido in google") print("2012------Guido in dropbox") print("2020------Guido in microsoft")

  • 并保存为Guido.py

生成token流

  • 回到shell之后
  • 从字符流生成token流


添加图片注释,不超过 140 字(可选)

  • 这个过程叫做分词

分词

  • 首先把一个个字符组成词
  • 分析一下哪些字可以组成词
  • 术语叫词法分析(lexical analysis)


添加图片注释,不超过 140 字(可选)

  • 词分析出来之后呢?

组词

  • 词分析出来就是怎么组词的问题
  • 哪些词和哪些词先组合
  • 哪些词和哪些词后组合


  • 生成一棵抽象语法树
  • AST(Abstract Syntax Tree)


添加图片注释,不超过 140 字(可选)

  • 我能看看这棵ast树么?

引入ast模块

添加图片注释,不超过 140 字(可选)

  • 具体怎么做呢?

流程

  • 先把这个ast模块导入(import)进来
  • 第一句就是import ast
  • 回车之后没有任何报错
  • 那就是执行成功了
  • 后面也一样
  • 没有报错就是执行成功了


添加图片注释,不超过 140 字(可选)

  • 然后读取guido.py并送到s
  • 然后对于s进行语法分析(parse)

添加图片注释,不超过 140 字(可选)

  • 再把分析(parse)的结果进行转储(dump)
  • 看起来有点乱
  • 可以清晰一些么?


升级Python

  • 目前lanqiao.cn上面的python是3.8
  • 这个清晰缩进的格式需要在3.9以上完成
  • 需要升级

sudo apt update sudo apt install python3.9

  • 升级之后就可以使用Python3.9了

添加图片注释,不超过 140 字(可选)

缩进换行

  • 只能在本地演示一下

添加图片注释,不超过 140 字(可选)

  • 这个就是把词组成语法树的样子
  • 如何理解这棵树呢?
  • 我们看一个例子

表达式运算

  • 如果给的表达式为 1 2 3

添加图片注释,不超过 140 字(可选)

  • 结合序为下图

添加图片注释,不超过 140 字(可选)

  • 前两个先结合
  • 得到的结果作为下一个运算的左操作数
  • 然后和第3个结合

结合序

  • 如果把 第一个* 改成 + 号
  • 其他什么也没加

添加图片注释,不超过 140 字(可选)

  • 表达式是1 + 2 * 3

添加图片注释,不超过 140 字(可选)

  • 后两个会先结合
  • 得到的结果 作为下一个运算的 右操作数
  • 然后再和1 进行 加法运算


  • 有了 语法树
  • 下一步 要做什么呢?


  • 这棵语法树 我们能看懂
  • 但是cpu 需要的是
  • 能执行的 一条条字节码指令



翻译成 字节码

  • 要把源程序 翻译成字节码 才能执行
  • 字节码 对应着cpu的指令


  • 怎么把ast 转化为字节码(指令) 呢?
  • 需要 编译(compile)


  • 从一种语言 到 另一种语言
  • 从py文件
  • 到字节码(指令)
  • 就是编译
  • compile



添加图片注释,不超过 140 字(可选)

compile

添加图片注释,不超过 140 字(可选)

  • 我可以看看这个编译过程么?

指令

  • instruction
  • python3 -m dis Guido.py
  • -m 代表使用模块
  • dis 代表反编译(disassemble)


添加图片注释,不超过 140 字(可选)

  • 我们可以看见
  • 前面是行号
  • 每行对应4条指令
  • LOAD_NAME 装载(函数)名字
  • LOAD_CONST 装载常量
  • CALL_FUNCTION 调用函数
  • POP_TOP 弹栈



编译结果

  • 先看看这个pyc文件
  • 注意他在__pycache__文件夹下


添加图片注释,不超过 140 字(可选)

  • :%!xxd
  • 把文件转化为字节形态


添加图片注释,不超过 140 字(可选)

  • 这纯纯的机器语言字节形态
  • 实在是看不懂啊😭
  • 这真的是指令么?


  • 究竟什么是指令呢?

指令

  • py文件每行print 对应4条指令
  • LOAD_NAME 装载(函数)名字
  • LOAD_CONST 装载常量
  • CALL_FUNCTION 调用函数
  • POP_TOP 弹栈


添加图片注释,不超过 140 字(可选)

  • 这样 我们 能否找到
  • 4条指令 分别对应的 字节状态值


找到对应关系

指令助记符

指令含义

十进制状态

十六进制状态

LOAD_NAME

装载函数名称

101

0x65

LOAD_CONST

装载参数

100

0x64

CALL_FUNCTION

调用函数

142

0x8e

POP_TOP

弹栈返回

1

0x01

  • 可以找对应关系

添加图片注释,不超过 140 字(可选)

  • 我们从头捋一下

python3 执行过程

  • 不管是python3这个游乐场
  • 还是Guido.py这个python程序
  • 都在我们的硬盘上


添加图片注释,不超过 140 字(可选)

  • 先得把文件从硬盘读到内存

python3 执行的过程大致是这样

  • 先把python3.8这个主解释器
  • 加载到内存中


  • 然后 在x86-64的cpu上 执行
  • 模拟出 一台python虚拟机


添加图片注释,不超过 140 字(可选)

  • 准备开始 对py文件 解释执行

先编译

  • 然后把参数 Guido.py 这个需要执行的程序 加载到内存
  • 词法分析 得到 词流(token stream)
  • 语法分析 得到 抽象语法树(Abstract Syntax Tree)
  • 编译 得到 字节码 (byte_code)


添加图片注释,不超过 140 字(可选)

  • 也就是编译后 的pyc文件

解释执行

  • 不过 这个pyc指令文件
  • 是基于python虚拟机的 虚拟cpu的 指令集的


添加图片注释,不超过 140 字(可选)

  • 需要放到 模拟好的 python虚拟机中
  • 一条条指令 进行执行

换句话说

  • 简化版的 hello.py 的执行过程是:
  • 给了 python3 一个参数 Guido.py
  • 使用 python3 这个解释器来解释执行 Guido.py
  • Guido.py中的语句一句句地依次解释执行


  • 全解释完成 后
  • 退出python这个程序
  • 把控制权交回到shell


添加图片注释,不超过 140 字(可选)

  • 这些 都是基于 解释器python3的
  • 所谓的 解释器python3
  • 先编译成 python虚拟机的 虚拟指令字节码
  • 然后用 python虚拟机 直接执行虚拟指令



  • 而解释器(python3) 是
  • 在不同系统 不同架构的cpu语言上 运行的


添加图片注释,不超过 140 字(可选)

  • 那不同的系统、cpu架构
  • python3 为什么 都能正确地解释?


总结

  • 这次把py源文件
  • 词法分析 得到 词流(token stream)
  • 语法分析 得到 抽象语法树(Abstract Syntax Tree)
  • 这里确立了优先级


  • 编译 得到 字节码 (bytecode)


  • 字节码我们看不懂
  • 所以反编译 得到 指令文件(opcode)
  • 指令文件是基于python虚拟机的虚拟cpu的指令集



添加图片注释,不超过 140 字(可选)

  • 先从 python3最基础的
  • 变量声明和赋值来看看
  • python虚拟机是如何做的?🤔




目录
相关文章
|
1月前
|
Unix Linux 程序员
[oeasy]python053_学编程为什么从hello_world_开始
视频介绍了“Hello World”程序的由来及其在编程中的重要性。从贝尔实验室诞生的Unix系统和C语言说起,讲述了“Hello World”作为经典示例的起源和流传过程。文章还探讨了C语言对其他编程语言的影响,以及它在系统编程中的地位。最后总结了“Hello World”、print、小括号和双引号等编程概念的来源。
114 80
|
1月前
|
人工智能 C语言 Python
[oeasy]python051_什么样的变量名能用_标识符_identifier
本文介绍了Python中变量名的命名规则,强调标识符(identifier)必须以字母或下划线开始,后续可包含字母、下划线及数字。通过`isidentifier()`函数可验证字符串是否为合法标识符。文中还探讨了为何数字不能作为标识符的开头,并提供了相关练习与解答,最后提及这些规则源自C语言的影响。
116 69
|
1月前
|
Python
[oeasy]python050_如何删除变量_del_delete_variable
本文介绍了Python中如何删除变量,通过`del`关键字实现。首先回顾了变量的声明与赋值,说明变量在声明前是不存在的,通过声明赋予其生命和初始值。使用`locals()`函数可查看当前作用域内的所有本地变量。进一步探讨了变量的生命周期,包括自然死亡(程序结束时自动释放)和手动删除(使用`del`关键字)。最后指出,删除后的变量将无法在当前作用域中被访问,并提供了相关示例代码及图像辅助理解。
118 68
|
6天前
|
人工智能 Unix Java
[oeasy]python059变量命名有什么规则_惯用法_蛇形命名法_name_convention_snake
本文探讨了Python中变量命名的几种常见方式,包括汉语拼音变量名、蛇形命名法(snake_case)和驼峰命名法(CamelCase)。回顾上次内容,我们主要讨论了使用下划线替代空格以提高代码可读性。实际编程中,当变量名由多个单词组成时,合理的命名惯例变得尤为重要。
35 9
|
11天前
|
C语言 Python
[oeasy]python058_一句话让python崩了
本文介绍了如何通过重新赋值`__builtins__`使Python环境崩溃,并探讨了下划线的来历及其在编程中的作用。文章回顾了上次内容,展示了覆盖内建模块导致系统崩溃的过程,解释了恢复方法,以及PEP 8规范中关于空格使用的建议。最后,文章总结了下划线在变量定义和提高代码可读性方面的重要性,并简述了其从打字机时代到计算机时代的演变。
23 10
|
21天前
|
Python
[oeasy]python055_python编程_容易出现的问题_函数名的重新赋值_print_int
本文介绍了Python编程中容易出现的问题,特别是函数名、类名和模块名的重新赋值。通过具体示例展示了将内建函数(如`print`、`int`、`max`)或模块名(如`os`)重新赋值为其他类型后,会导致原有功能失效。例如,将`print`赋值为整数后,无法再用其输出内容;将`int`赋值为整数后,无法再进行类型转换。重新赋值后,这些名称失去了原有的功能,可能导致程序错误。总结指出,已有的函数名、类名和模块名不适合覆盖赋新值,否则会失去原有功能。如果需要使用类似的变量名,建议采用其他命名方式以避免冲突。
38 14
|
13天前
|
Python
[oeasy]python057_如何删除print函数_dunder_builtins_系统内建模块
本文介绍了如何删除Python中的`print`函数,并探讨了系统内建模块`__builtins__`的作用。主要内容包括: 1. **回忆上次内容**:上次提到使用下划线避免命名冲突。 2. **双下划线变量**:解释了双下划线(如`__name__`、`__doc__`、`__builtins__`)是系统定义的标识符,具有特殊含义。
25 3
|
16天前
|
存储 Python
[oeasy]python056_python中下划线是什么意思_underscore_理解_声明与赋值_改名字
在Python中,下划线有多种用途。单下划线(_)常用于避免命名冲突,如将`max`改为`max_`以保留内置函数功能。双下划线(__var__)通常用于特殊方法和属性,如`__name__`、`__doc__`等。此外,单下划线(_)在交互式解释器中表示上一次表达式的值,但不建议作为普通变量名使用。总结:下划线用于避免命名冲突及特殊标识。
21 1
|
30天前
|
C语言 Python
[oeasy]python054_python有哪些关键字_keyword_list_列表_reserved_words
本文介绍了Python的关键字列表及其使用规则。通过回顾`hello world`示例,解释了Python中的标识符命名规则,并探讨了关键字如`if`、`for`、`in`等不能作为变量名的原因。最后,通过`import keyword`和`print(keyword.kwlist)`展示了Python的所有关键字,并总结了关键字不能用作标识符的规则。
35 9
|
2天前
|
存储 人工智能 Python
[oeasy]python061_如何接收输入_input函数_字符串_str_容器_ 输入输出
本文介绍了Python中如何使用`input()`函数接收用户输入。`input()`函数可以从标准输入流获取字符串,并将其赋值给变量。通过键盘输入的值可以实时赋予变量,实现动态输入。为了更好地理解其用法,文中通过实例演示了如何接收用户输入并存储在变量中,还介绍了`input()`函数的参数`prompt`,用于提供输入提示信息。最后总结了`input()`函数的核心功能及其应用场景。更多内容可参考蓝桥、GitHub和Gitee上的相关教程。
7 0