[关闭]
@946898963 2018-05-18T03:55:42.000000Z 字数 8601 阅读 1167

Volley的硬盘缓存--Cache,DiskBasedCache,NoCache的源码分析

Android控件跟框架 Android源码分析


Cache,DiskBasedCache,NoCache是Volley中缓存相关的类和接口,这里对他们的源码进行分析。

Cache

Cache 是一个接口,主要方法有:

  1. /**
  2. * 通过key得到缓存的实体对象
  3. */
  4. public Entry get(String key);
  5. /**
  6. * 保存一个请求的实体对象
  7. */
  8. public void put(String key, Entry entry);
  9. /**
  10. * 初始化,将硬盘上的缓存文件的首部信息加载到内存中,方便后面查询缓存是否存在
  11. */
  12. public void initialize();
  13. /**
  14. * 根据key移除一个缓存实体
  15. */
  16. public void remove(String key);
  17. /**
  18. * 清除缓存
  19. */
  20. public void clear();

还有一个静态内部类 Entry:

  1. public static class Entry {
  2. /**
  3. * 请求返回的数据,(Body 实体)
  4. */
  5. public byte[] data;
  6. /**
  7. * Http 响应首部中用于缓存新鲜度验证的 ETag
  8. */
  9. public String etag;
  10. /**
  11. * Http 响应首部中的响应产生时间
  12. */
  13. public long serverDate;
  14. /** 请求返回的数据,在服务端的最近修改时间 */
  15. public long lastModified;
  16. /**
  17. * 缓存的过期时间
  18. */
  19. public long ttl;
  20. /**
  21. * 缓存的新鲜时间
  22. */
  23. public long softTtl;
  24. /**
  25. * http的相应头部
  26. */
  27. public Map<String, String> responseHeaders = Collections.emptyMap();
  28. /**
  29. * 判断是否到期,过期缓存不能继续使用
  30. */
  31. public boolean isExpired() {
  32. return this.ttl < System.currentTimeMillis();
  33. }
  34. /**
  35. * 判断是否需要刷新数据(判断缓存是否新鲜),不新鲜的缓存需要发到服务端做新鲜度的检测
  36. */
  37. public boolean refreshNeeded() {
  38. return this.softTtl < System.currentTimeMillis();
  39. }
  40. }

此处输入图片的描述

有两个实现子类,NoCache就是空实现,这里不做分析了;DiskBasedCache就是在Volley.java初始化RequestQueue的时候传进去的mCache对象!

DiskBasedCache

DiskBasedCache是Volley中负责硬盘缓存的类。

获取缓存的数据的大体步骤。
第一步:
当NetWorkDispatcher的run方法开始执行(NetWorkDispatcher是Thread类的子类),进入循环,从网络请求队列中取出一个请求对象,执行网络请求。
第二步:
将从服务器得到的数据转换为Response对象(此对象代表一个网络响应)。
第三步:
根据 请求对象是否要求缓存(在新建Request的时候设置的值)来决定是否将响应数据写入缓存中。
以上三步得到缓存数据。缓存包括:** 网络响应的响应正文和头信息**。

得到缓存数据以后就可以调用Cache类或者其子类的put方法将缓存信息写入SD卡(Volley并没有做内存的缓存而是直接写入到磁盘文件)。在请求数据之前,就可以根据需要调用get方法来从SD卡取出之前缓存的数据。

在Volley中,为了描述缓存文件,将缓存文件的一些重要属性—缓存文件的大小,缓存对应的URL,服务器的响应时间,网络延迟和缓存的新鲜度作为头信息组成CacheHeader对象写入到缓存文件中,并将响应正文写入CacheHeader后面,组成一个缓存文件。在取缓存的时候,根据内存中的CacheHeader对象(缓存文件属性的封装类)的map集合(此map的key为待请求的URL,Value是CacheHeader对象)判断此请求对象是否有缓存。如果有缓存的话,将缓存读出来,封装成Entry(缓存属性和数据的封装类),从而恢复成response对象。一写一读就完成了缓存的写入和取出操作。

源码分析,首先分析成员变量:

  1. private final Map<String, CacheHeader> mEntries =
  2. new LinkedHashMap<String, CacheHeader>(16, .75f, true);
  3. private long mTotalSize = 0;
  4. private final File mRootDirectory;
  5. private final int mMaxCacheSizeInBytes;
  6. private static final int DEFAULT_DISK_USAGE_BYTES = 5 * 1024 * 1024;
  7. private static final float HYSTERESIS_FACTOR = 0.9f;
  8. private static final int CACHE_MAGIC = 0x20150306;
  • mEntries,一个用来判断缓存是否存在的map,key为url,value为url对应的响应数据的首部信息封装类CacheHeader。

  • mTotalSize,当前已经缓存文件的总的大小。

  • mRootDirectory,缓存目录。

  • DEFAULT_DISK_USAGE_BYTES,缓存的默认大小。

  • HYSTERESIS_FACTOR,

  • CACHE_MAGIC,魔数,写在缓存文件的头部,用来表示这个文件是个缓存文件。读取的时候先读取这个魔数,如果和定义的CACHE_MAGIC不对应的话,说明这不是一个缓存文件,丢弃掉这个文件。

构造方法,一共两个构造方法:

  1. public DiskBasedCache(File rootDirectory, int maxCacheSizeInBytes) {
  2. mRootDirectory = rootDirectory;
  3. mMaxCacheSizeInBytes = maxCacheSizeInBytes;
  4. }
  5. public DiskBasedCache(File rootDirectory) {
  6. this(rootDirectory, DEFAULT_DISK_USAGE_BYTES);
  7. }

构造方法完成了对缓存目录和缓存大小的设置。

put方法的源码:

  1. @Override
  2. public synchronized void put(String key, Entry entry) {
  3. pruneIfNeeded(entry.data.length); // 检测是否缓存已满,若时则删除一些缓存!
  4. File file = getFileForKey(key); // 创建缓存文件
  5. try {
  6. FileOutputStream fos = new FileOutputStream(file);
  7. CacheHeader e = new CacheHeader(key, entry); // 构造CacheHeader对象
  8. e.writeHeader(fos); // 写入头信息
  9. fos.write(entry.data); // 写入主体信息
  10. fos.close();
  11. putEntry(key, e); // 保存到map中
  12. return;
  13. } catch (IOException e) {
  14. }
  15. boolean deleted = file.delete(); // ???
  16. if (!deleted) {
  17. VolleyLog.d("Could not clean up file %s", file.getAbsolutePath());
  18. }
  19. }

方法体的第一行代码的作用是进行缓存的管理,检测是否缓存已满,若时则删除一些缓存。这里先知道作用即可,后面会对源码进行分析。

  1. pruneIfNeeded(entry.data.length);

接下来,根据请求Url新建缓存文件。

  1. File file = getFileForKey(key); // 创建缓存文件
  1. public File getFileForKey(String key) {
  2. return new File(mRootDirectory, getFilenameForKey(key));
  3. }
  1. // 从这里可以看出,缓存文件的名称是由url地址前半部分的hashcode和后半部分的hashcode拼接而成!之所以这么做是为了防止缓存文件名发生碰撞。
  2. private String getFilenameForKey(String key) {
  3. int firstHalfLength = key.length() / 2;
  4. String localFilename = String.valueOf(key.substring(0, firstHalfLength).hashCode());
  5. localFilename += String.valueOf(key.substring(firstHalfLength).hashCode());
  6. return localFilename;
  7. }

然后使用字节流将数据写入该文件中。注意代码将写头部信息和写数据是分开的,这里是因为头部信息是有一定的结构,必须按照头信息的格式写入文件。关于头信息怎么写的,建议阅读:。

  1. FileOutputStream fos = new FileOutputStream(file);
  2. CacheHeader e = new CacheHeader(key, entry); // 构造CacheHeader对象
  3. e.writeHeader(fos); // 写入头信息
  4. fos.write(entry.data); // 写入主体信息
  5. fos.close();

写完之后,将代表缓存信息的CacheHeader放入内存方便以后对缓存的检索。

  1. putEntry(key, e); // 保存到map中

如果在写文件中遇到异常,删除缓存文件。如果删除不成功,打Log。

  1. try {
  2. ....
  3. putEntry(key, e); // 保存到map中
  4. return;
  5. } catch (IOException e) {
  6. }
  7. boolean deleted = file.delete(); // ???
  8. if (!deleted) {
  9. VolleyLog.d("Could not clean up file %s", file.getAbsolutePath());
  10. }

get方法的源码:

  1. @Override
  2. public synchronized Entry get(String key) {
  3. CacheHeader entry = mEntries.get(key);
  4. // if the entry does not exist, return.
  5. if (entry == null) {
  6. return null;
  7. }
  8. File file = getFileForKey(key);
  9. CountingInputStream cis = null;
  10. try {
  11. cis = new CountingInputStream(new FileInputStream(file));
  12. CacheHeader.readHeader(cis); // eat header
  13. byte[] data = streamToBytes(cis, (int) (file.length() - cis.bytesRead));
  14. return entry.toCacheEntry(data);
  15. } catch (IOException e) {
  16. VolleyLog.d("%s: %s", file.getAbsolutePath(), e.toString());
  17. remove(key);
  18. return null;
  19. } finally {
  20. if (cis != null) {
  21. try {
  22. cis.close();
  23. } catch (IOException ioe) {
  24. return null;
  25. }
  26. }
  27. }
  28. }

首先根据内存中的头信息,判断是否有该key的缓存,没有的话直接返回null,有的话执行if后面的代码。

  1. CacheHeader entry = mEntries.get(key);
  2. // if the entry does not exist, return.
  3. if (entry == null) {
  4. return null;
  5. }

首先得到缓存文件,接着创建一个字节输入流的包装类CountingInputStream,此类有一个功能–记住已经读取的字节数,从而方便的读取头信息这类有结构的数据

  1. File file = getFileForKey(key);
  2. CountingInputStream cis = null;
  3. try {
  4. cis = new CountingInputStream(new FileInputStream(file));
  5. ....
  6. } catch (IOException e) {
  7. ....
  8. } finally {
  9. ....
  10. }
  1. private static class CountingInputStream extends FilterInputStream {
  2. private int bytesRead = 0;
  3. private CountingInputStream(InputStream in) {
  4. super(in);
  5. }
  6. @Override
  7. public int read() throws IOException {
  8. int result = super.read();
  9. if (result != -1) {
  10. bytesRead++;
  11. }
  12. return result;
  13. }
  14. @Override
  15. public int read(byte[] buffer, int offset, int count) throws IOException {
  16. int result = super.read(buffer, offset, count);
  17. if (result != -1) {
  18. bytesRead += result;
  19. }
  20. return result;
  21. }
  22. }

接着用输入流的包装类CountingInputStream读取缓存文件,将读取到的头信息和读取到的数据组成entry对象返回。与put过程一样,这里也会涉及到头的处理,包括缓存的校验。

  1. CacheHeader.readHeader(cis); // eat header
  2. byte[] data = streamToBytes(cis, (int) (file.length() - cis.bytesRead));
  3. return entry.toCacheEntry(data);
  1. private static byte[] streamToBytes(InputStream in, int length) throws IOException {
  2. byte[] bytes = new byte[length];
  3. int count;
  4. int pos = 0;
  5. while (pos < length && ((count = in.read(bytes, pos, length - pos)) != -1)) {
  6. pos += count;
  7. }
  8. if (pos != length) {
  9. throw new IOException("Expected " + length + " bytes, read " + pos + " bytes");
  10. }
  11. return bytes;
  12. }

接下来我们分析pruneIfNeeded方法,pruneIfNeeded方法的作用是判断待写入文件写入之后是否会超出缓存的最大值(默认5M)。如果超出,就删除掉之前的缓存数据。代码如下:

  1. private void pruneIfNeeded(int neededSpace) {
  2. if ((mTotalSize + neededSpace) < mMaxCacheSizeInBytes) {
  3. return;
  4. }
  5. if (VolleyLog.DEBUG) {
  6. VolleyLog.v("Pruning old cache entries.");
  7. }
  8. long before = mTotalSize;
  9. int prunedFiles = 0;
  10. long startTime = SystemClock.elapsedRealtime();
  11. Iterator<Map.Entry<String, CacheHeader>> iterator = mEntries.entrySet().iterator();
  12. while (iterator.hasNext()) {
  13. Map.Entry<String, CacheHeader> entry = iterator.next();
  14. CacheHeader e = entry.getValue();
  15. boolean deleted = getFileForKey(e.key).delete();
  16. if (deleted) {
  17. mTotalSize -= e.size;
  18. } else {
  19. VolleyLog.d("Could not delete cache entry for key=%s, filename=%s",
  20. e.key, getFilenameForKey(e.key));
  21. }
  22. iterator.remove();
  23. prunedFiles++;
  24. if ((mTotalSize + neededSpace) < mMaxCacheSizeInBytes * HYSTERESIS_FACTOR) {
  25. break;
  26. }
  27. }
  28. if (VolleyLog.DEBUG) {
  29. VolleyLog.v("pruned %d files, %d bytes, %d ms",
  30. prunedFiles, (mTotalSize - before), SystemClock.elapsedRealtime() - startTime);
  31. }
  32. }

代码的主要逻辑在 CacheHeader组成的map的遍历,然后找到头信息所指的缓存文件,删除之。注意看这里的map:

  1. private final Map<String, CacheHeader> mEntries =
  2. new LinkedHashMap<String, CacheHeader>(16, .75f, true);

mEntries,是一个LinkedHashMap,将构造方法中的第三参数accessOrder设置成了true,可以使遍历顺序和访问顺序一致,其内部双向链表将会按照近期最少访问到近期最多访问的顺序排列Entry对象,也就是实现了LRU。
接着再看下initialize()方法,这个方法的作用是,扫描缓存目录得到所有缓存数据摘要信息放入内存方便检索。源码如下:

  1. @Override
  2. public synchronized void initialize() {
  3. if (!mRootDirectory.exists()) {
  4. if (!mRootDirectory.mkdirs()) {
  5. VolleyLog.e("Unable to create cache dir %s", mRootDirectory.getAbsolutePath());
  6. }
  7. return;
  8. }
  9. File[] files = mRootDirectory.listFiles();
  10. if (files == null) {
  11. return;
  12. }
  13. for (File file : files) {
  14. BufferedInputStream fis = null;
  15. try {
  16. fis = new BufferedInputStream(new FileInputStream(file));
  17. CacheHeader entry = CacheHeader.readHeader(fis);
  18. entry.size = file.length();
  19. putEntry(entry.key, entry);
  20. } catch (IOException e) {
  21. if (file != null) {
  22. file.delete();
  23. }
  24. } finally {
  25. try {
  26. if (fis != null) {
  27. fis.close();
  28. }
  29. } catch (IOException ignored) { }
  30. }
  31. }
  32. }
  1. private void putEntry(String key, CacheHeader entry) {
  2. if (!mEntries.containsKey(key)) {
  3. mTotalSize += entry.size;
  4. } else {
  5. CacheHeader oldEntry = mEntries.get(key);
  6. mTotalSize += (entry.size - oldEntry.size);
  7. }
  8. mEntries.put(key, entry);
  9. }
  1. private void removeEntry(String key) {
  2. CacheHeader entry = mEntries.get(key);
  3. if (entry != null) {
  4. mTotalSize -= entry.size;
  5. mEntries.remove(key);
  6. }
  7. }

最后看下clear方法:

  1. @Override
  2. public synchronized void clear() {
  3. File[] files = mRootDirectory.listFiles();
  4. if (files != null) {
  5. for (File file : files) {
  6. file.delete();
  7. }
  8. }
  9. mEntries.clear();
  10. mTotalSize = 0;
  11. VolleyLog.d("Cache cleared.");
  12. }

至此,DiskBasedCache源码介绍完毕。

参考链接:

Volley的cache之硬盘缓存--DiskBasedCache(作者的其他博文也值得学习)
Volley 源码解析
Volley 源码解析
Volley源码解读

Java_io体系之FilterInputStream/FilterOutputStream简介、走进源码及示例——07

添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注