发布时间:2014-09-05 16:56:27作者:知识屋
通常情况下,linux内核是不支持浮点操作的。在进行数据处理过程中,我们经常会处于这样的尴尬:计算过程的数据位长和计算结果的误差产生了冲突.
例如如下的实例:102448/7*1024
这样的表达式在内核中可以如下表达:
long result = 102448/7*1024;
当然,作为实际的操作过程,表达式中的字面常数通常是一些变量。如果result具有累积效应,上面的表达式将产生致命的误差。
数学表达中 102448/7*1024的值为14986678
而表达式 result = 102448/7*1024 的值为14986240
显然,这种误差是巨大的,如何调整这种误差呢?
我们可以将这种问题诉诸数学恒等式:
{A/B*C}= [A/B*C + A%B*C/B]
我们将进行验证:
result = 102448/7*1024 + 102448%7*1024/7;
result = 14986240 + 438
result = 14986678
未完待续
作者“www.475551408.qq.com”
linux一键安装web环境全攻略 在linux系统中怎么一键安装web环境方法
Linux网络基本网络配置方法介绍 如何配置Linux系统的网络方法
Linux下DNS服务器搭建详解 Linux下搭建DNS服务器和配置文件
对Linux进行详细的性能监控的方法 Linux 系统性能监控命令详解
linux系统root密码忘了怎么办 linux忘记root密码后找回密码的方法
Linux基本命令有哪些 Linux系统常用操作命令有哪些
Linux必学的网络操作命令 linux网络操作相关命令汇总
linux系统从入侵到提权的详细过程 linux入侵提权服务器方法技巧
linux系统怎么用命令切换用户登录 Linux切换用户的命令是什么
在linux中添加普通新用户登录 如何在Linux中添加一个新的用户
2012-07-10
CentOS 6.3安装(详细图解教程)
Linux怎么查看网卡驱动?Linux下查看网卡的驱动程序
centos修改主机名命令
Ubuntu或UbuntuKyKin14.04Unity桌面风格与Gnome桌面风格的切换
FEDORA 17中设置TIGERVNC远程访问
StartOS 5.0相关介绍,新型的Linux系统!
解决vSphere Client登录linux版vCenter失败
LINUX最新提权 Exploits Linux Kernel <= 2.6.37
nginx在网站中的7层转发功能