高可信软件

高可信软件是指可靠安全性和保密安全性标准极高的软件。

· 可靠安全性(Safety)是指软件具有设计要求的功能，在运行时不引起危险、灾难的能力。
· 保密安全性(Security)是指软件具有对数据和信息提供保密性、完整性、可用性、真实性的保障能力。

程序的正确性是指程序具有用户所期望的性质，既具备可靠安全性又具备保密安全性。一般软件的可靠和安全是通过测试来保障的，而高可信软件可以通过使用分析和验证工具来获得更高保障。

行业准则

经济价值

计算机软件故障给全球经济每年都会带来重大损失：

  •  2002年美国商务部国家标准与技术研究所(NIST)的调研数据显示，仅美国每年因为软件错误导致的经济损失就高达595亿美元，约占美国国民生产总值的0.6%。
  •  2013年剑桥大学的一项研究 [1]表明，软件漏洞每年对经济造成3120亿美元的损失。
  •  针对美国低质量软件，CISQ (Consortium for Information & Software Quality)出具的报告[2]中显示，2018年美国低质量软件的成本约为2.84万亿美元。

软件测试等手段可以在一定程度上可以提高软件质量，但是无法从根本上保证产品的安全可靠性。因此，高可信软件技术具备广阔的应用前景和巨大的经济效益。各领域特别是安全攸关的关键领域将受益于高可信软件的产品和技术。

  • [1] 数据源自：https://www.prweb.com/releases/2013/1/prweb10298185.htm
  • [2] 数据源自：https://www.it-cisq.org/the-cost-of-poor-quality-software-in-the-us-a-2018-report/The-Cost-of-Poor-Quality-Software-in-the-US-2018-Report.pdf
缺陷

经典案例

医疗领域

1985 年到 1987 年期间，Therac-25 医疗放射治疗装置基于输入数据的顺序， 治疗计划软件计算并提供了双倍剂量的辐射，让成百上千的患者暴露在大量过量的辐射之中，少数患 者接受了高达预期 100 倍的放射剂量。最终导致4人死亡，2人重伤。

军事领域

1991年2月25日,一个爱国者导弹连在作战4天后,由于跟踪软件出现0.36秒的 累积时间误差而未能成功地拦截飞向沙特宰赫兰兵营的飞毛腿导弹,致使美军28名士兵丧生,98名士兵受 伤。这次拦截失败是因为爱国者导弹系统的跟踪门由于软件的时间误差未对准来袭的飞毛腿导弹。

航天领域

波音 737 MAX 8 半年内出现两起严重坠机事故， 最终导致346人罹难。原因均为飞机的迎角传感器“数据错误”触发“防失速”自动操作， 导致机头不断下压，飞行员多次手动拉升无效，最终飞机坠落。