浮点类型使用细节|学习笔记

简介: 快速学习浮点类型使用细节

开发者学堂课程【Go语言核心编程 - 基础语法、数组、切片、Map:浮点类型使用细节】学习笔记,与课程紧密联系,让用户快速学习知识

课程地址:https://developer.aliyun.com/learning/course/625/detail/9520


浮点类型使用细节

Go 语言提供了两种精度的浮点数 float32 和 float64,它们的算术规范由 IEEE754 浮点数国际标准定义,该浮点数规范被所有现代的 CPU 支持。

这些浮点数类型的取值范围可以从很微小到很巨大。浮点数取值范围的极限值可以在 math 包中找到:

常量 math.MaxFloat32 表示 float32 能取到的最大数值,大约是 3.4e38;

常量 math.MaxFloat64 表示 float64 能取到的最大数值,大约是 1.8e308;

float32 和 float64 能表示的最小值分别为 1.4e-45 和 4.9e-324。

一个 float32 类型的浮点数可以提供大约 6 个十进制数的精度,而 float64 则可以提供约 15 个十进制数的精度,通常应该优先使用 float64 类型,

因为 float32 类型的累计计算误差很容易扩散,并且 float32 能精确表示的正整数并不是很大。

1.Golang浮点类型有固定的范围和字段长度,不受具体os(操作系统)的影响。

2.Golang 的浮点型默认声明为float64类型。

案例演示:

var num5 = 1.1

fmt.Printf("num5的数据类型是%T",nums)

输出的结果为"num5的数据类型是float64"

3.浮点型常量有两种表示形式

(1)十进制数形式:

如:5.12.512(必须有小数点)

(2)科学计数法形式:

如:5.1234e2 = 5.12* 10的2次方

5.12E-2 =5.12/10的2次方

案例演示:

十进制数形式:

num6 := 5.12

num7 := .123

//等同于 0.123

fmt.Print1n( "num6=", num6,"num7=", num7)

输出为num6 = 5.12 num7 = 0.123

科学计数法形式:

num8 := 5.1234e2 // ? 5.1234*10的2次方

num9 := 5.1234E2 // ? 5.1234*10的2次方

num10 := 5.1234E-2 // ? 5.1234/10的2次方 0.051234

fmt.Print1n("num8=", num8,"num9=", num9,"num10=", num10)

输出为 num8 = 512.34 num9 = 512.34 num10 = 0.051234

4.通常情况下,应该使用float64,因为它比float32更精确。(开发中,推荐使用float64)

相关文章
|
4天前
|
数据采集 人工智能 安全
|
13天前
|
云安全 监控 安全
|
5天前
|
自然语言处理 API
万相 Wan2.6 全新升级发布!人人都能当导演的时代来了
通义万相2.6全新升级,支持文生图、图生视频、文生视频,打造电影级创作体验。智能分镜、角色扮演、音画同步,让创意一键成片,大众也能轻松制作高质量短视频。
1093 152
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
Z-Image:冲击体验上限的下一代图像生成模型
通义实验室推出全新文生图模型Z-Image,以6B参数实现“快、稳、轻、准”突破。Turbo版本仅需8步亚秒级生成,支持16GB显存设备,中英双语理解与文字渲染尤为出色,真实感和美学表现媲美国际顶尖模型,被誉为“最值得关注的开源生图模型之一”。
1770 9
|
10天前
|
人工智能 自然语言处理 API
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸
一句话生成拓扑图!next-ai-draw-io 结合 AI 与 Draw.io,通过自然语言秒出架构图,支持私有部署、免费大模型接口,彻底解放生产力,绘图效率直接爆炸。
701 152
|
12天前
|
人工智能 安全 前端开发
AgentScope Java v1.0 发布,让 Java 开发者轻松构建企业级 Agentic 应用
AgentScope 重磅发布 Java 版本,拥抱企业开发主流技术栈。
663 13
|
7天前
|
SQL 自然语言处理 调度
Agent Skills 的一次工程实践
**本文采用 Agent Skills 实现整体智能体**,开发框架采用 AgentScope,模型使用 **qwen3-max**。Agent Skills 是 Anthropic 新推出的一种有别于mcp server的一种开发方式,用于为 AI **引入可共享的专业技能**。经验封装到**可发现、可复用的能力单元**中,每个技能以文件夹形式存在,包含特定任务的指导性说明(SKILL.md 文件)、脚本代码和资源等 。大模型可以根据需要动态加载这些技能,从而扩展自身的功能。目前不少国内外的一些框架也开始支持此种的开发方式,详细介绍如下。
459 5