【Sqlite】sqlite内部函数sqlite3_value_text特性

目录

[⚛️1 结论](#⚛️1 结论)

[☪️2 说明](#☪️2 说明)

[☪️3 传入数值转成科学计数法](#☪️3 传入数值转成科学计数法)

[♋3.1 只有整数部分](#♋3.1 只有整数部分)

[♏3.2 只有小数部分](#♏3.2 只有小数部分)

[♐3.3 整数+小数](#♐3.3 整数+小数)


⚛️1 结论

整数(sqlite视为int64)位数 >= 20位,sqlite3_value_text 采用科学计数法。否则正常表示。

浮点数(sqlite视为double)的整数部分位数 >= 16位,sqlite3_value_text 使用科学计数法,且包括小数点后的位数共计显示15位数字。否则正常表示(这里涉及浮点数的精度问题,比如1.33存储显示为1.3299999...多个9...99)。

  • **【示例】**整数(7位) +小数(13位)一共20位,则最终输出整数有7位,则小数部分只显示有8位,小数点后第9位按照四舍五入到第8位
  • **【示例】**整数(0位即等于0) +小数(16位)一共16位,则最终输出整数有0位(等于0),则小数部分只显示有15位,小数点后第16位则四舍五入到第15位
  • **【示例】**整数(16位) +小数(2位)一共18位,则最终输出科学计数法,整数有1位,则小数部分只显示有14位,小数点后第15位按照四舍五入到第14位

【说明】

  • 位数:小数点不算一位,位数均从1开始(特殊情况:只有小数即0.1234的整数部分0不算一位,即视为0位)

☪️2 说明

本文测试 sqlite3_value_text 函数的特性,主要集中测试 sqlite3_value_text 函数在何时会转成科学计数法。

创建sqlite自定义函数:

注册如下:


☪️3 传入数值转成科学计数法

♋3.1 只有整数部分

a 正整数

结论: 对于正整数数值位数 >= 20 位,sqlite3_value_text 采用科学计数法。


b 负整数

结论: 对于负整数数值位数 >= 20 位,sqlite3_value_text 采用科学计数法。


**【总结】**对于只有整数的数值,当整数位数 >= 20位,sqlite3_value_text 采用科学计数法。


♏3.2 只有小数部分

a 正小数

结论: 对于正小数数值,最多保留小数点后第 15 位(当超出15位时,则按照第16位进行四舍五入到第15位)。


b 负小数

结论: 对于 小数数值,最多保留小数点后第 15 位(当超出15位时,则按照第16位进行四舍五入到第15位)。


【总结】对于只有小数数值,最多保留小数点后第 15 位(当超出15位时,则按照第16位进行四舍五入到第15位)。


♐3.3 整数+小数

a 正浮点数

整数+小数数值 = 19位


整数+小数数值 = 18位


整数+小数数值 = 17位


结论:

  • 正整数+小数 ,只显示15位数字
    示例:整数(7位) +小数(13位)一共20位,则最终输出整数有7位,则小数部分只显示有8位,小数点后第9位(如果有)则四舍五入到第8位
  • 整数部分 >=16位则使用科学计数法
  • 小数部分最多保留到第15位(四舍五入)

b 负浮点数

整数+小数数值 = 19位


整数+小数数值 = 18位


整数+小数数值 = 17位


结论:

  • 负整数+小数 ,只显示15位数字
    示例:整数(7位) +小数(13位)一共20位,则最终输出整数有7位,则小数部分只显示有8位,小数点后第9位(如果有)则四舍五入到第8位
  • 整数部分 >= 16位则使用科学计数法
  • 小数部分最多保留到第15位(四舍五入)

【总结】

  • 整数+小数 ,只显示15位数字
    示例:整数(7位) +小数(13位)一共20位,则最终输出整数有7位,则小数部分只显示有8位,小数点后第9位(如果有)则四舍五入到第8位
  • 整数部分 >=16位则使用科学计数法
  • 小数部分最多保留到第15位(四舍五入)

相关推荐
袋鼠云数栈6 小时前
实时湖仓如何真正做到“数据够新”?
大数据·数据库·人工智能·数据治理
ACP广源盛139246256736 小时前
M6/M5 Pro Mac mini 端侧 AI 落地@ACP#YLB3116 中端多盘存储扩展在 AI 服务中的机会与应用场景
大数据·网络·数据库·人工智能·嵌入式硬件·macos
ACP广源盛139246256736 小时前
M6/M5 Pro Mac mini 端侧 AI 新形态@ACP#GSV5800 Serdes 长距离视频传输在 AI 服务中的机会与落地场景
大数据·网络·数据库·人工智能·嵌入式硬件·macos·音视频
倔强的石头_8 小时前
事务边界与批量写入:避免长事务、锁等待和日志压力
数据库
努力努力再努力wz8 小时前
【Redis入门系列】从 KEYS 到 SCAN:渐进式遍历、Cursor 与位反转原理
数据库·redis·缓存
坐吃山猪9 小时前
【多线程】Lock与Condition
大数据·数据库
Lightpwd10 小时前
Spring Boot 多数据源落地:AbstractRoutingDataSource + 注解切面(附源码)
数据库·后端
LabVIEW开发10 小时前
LabVIEW 64位安装的位深陷阱:工具包、内存与工程兼容
数据库·labview·labview知识·labview功能·labview程序
寺中人10 小时前
MySQL 8.0 Windows 完整安装教程:环境配置、密码重置与常见报错排查
数据库·windows·mysql·环境搭建·mysql 安装
这个DBA有点耶10 小时前
同样48核配置TPS差1倍?高性价比数据库一体机的“软硬协同”才是分水岭
服务器·数据库·架构