02_时间复杂度和空间复杂度

数据结构和算法

算法效率的度量方法

• 事后统计方法：这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对不同的算法编制的程序的运行时间进行比较，从而确定算法效率的高低

• 事前分析估算方法：在计算机程序编写前，依据统计方法对算法进行估算

• 一个高级语言编写的程序在计算机上运行时所消耗的时间取决于以下因素：

  • 算法采用的策略、方案
  • 编译产生的代码质量
  • 问题的输入规模
  • 机器执行指令的速度

• 研究算法的复杂度，侧重研究算法随着输入规模扩大增长量的一个抽象，而不是精确地定位需要执行多少次

函数的渐进增长

• defs：给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N，f(n)总是比g(n)大，那么，我们说f(n)的增长渐进快于g(n)

算法时间复杂度

• defs:
  
  • 在进行算法分析时，语句总的执行次数T(n)是关于问题规模的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间量度，记作：T(n) = O(f(n))。它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐近时间复杂度。简称为时间复杂度。其中f(n)是问题规模n的某个函数。
• 这样用大写O()来体现算法时间复杂度的记法，称为大O记法
• 一般情况下，随着输入规模n的增大，T(n)增长最慢的算法为最优算法

推导大O阶方法

• 用常数1取代运行时间中所有加法常数
• 在修改后的运行次数函数中，只保留最高项
• 如果最高阶存在且不是1，则去除与这个项相乘的常数
• 得到的最后结果是大O阶

函数调用的时间复杂度分析

常见的时间复杂度

• 线性阶
  
  • 一般含有非嵌套循环涉及线性阶，线性阶就是随着问题规模n的扩大，对应计算次数呈直线增长

• 平方阶

  • 嵌套循环
  • 循环的时间复杂度等于循环体的复杂度乘以该循环运行的次数

• 常用的时间复杂度所耗费的时间从小到大依次是：

  • O(1) < O(log n) < O(n) < O(nlog n) < O(n^2) < O(n^3) < O(2^n) < O(n!) < O(n^n)

最坏情况与平均情况

• 平均运行时间是期望的运行时间
• 最坏运行时间是一种保证，在应用中，这是一种最重要的要求，通常除非特别指定，我们提到的运行时间都是最坏情况的运行时间

算法的空间复杂度

• 可用空间换取时间
• 也可用时间换取空间
• defs:
  
  • 算法的空间复杂度通过计算算法所需的存储空间实现，算法的空间复杂度的计算公式记作：
  • S(n)=O(f(n))，其中，n为问题的规模，f(n)为语句关于n所占存储空间的函数