[关闭]
@adamhand 2019-01-21T13:24:23.000000Z 字数 15455 阅读 897

序列化


概念

内存中的数据对象只有转化为二进制流才能进行数据持久化网络传输。将数据对象转化为二进制流的过程称为序列化。反之,将二进制流恢复为数据对象的过程称为反序列化

序列化的常用场景如下:

实现序列化的方法

实现Serializable接口

大致步骤如下:

实例如下:

  1. import java.io.Serializable;
  2. public class User implements Serializable {
  3. private static final long serialVersionUID = 7090848137142510895L;
  4. private String name;
  5. private String gender;
  6. public User(String name, String gender) {
  7. this.name = name;
  8. this.gender = gender;
  9. }
  10. public String getName() {
  11. return name;
  12. }
  13. public void setName(String name) {
  14. this.name = name;
  15. }
  16. public String getGender() {
  17. return gender;
  18. }
  19. public void setGender(String gender) {
  20. this.gender = gender;
  21. }
  22. @Override
  23. public String toString() {
  24. return "User{" +
  25. "name='" + name + '\'' +
  26. ", gender='" + gender + '\'' +
  27. '}';
  28. }
  29. }
  1. public class Main {
  2. public static void main(String[] args) throws IOException, ClassNotFoundException {
  3. //使用ObjectOutputStream和ObjectInputStream
  4. // User user = new User("Bob", "male");
  5. ////
  6. //// ObjectOutputStream oos = new ObjectOutputStream(new FileOutputStream(new File("object.txt")));
  7. //// oos.writeObject(user);
  8. //// oos.close();
  9. //// System.out.println(user);
  10. ////
  11. //// ObjectInputStream ois = new ObjectInputStream(new FileInputStream(new File("object.txt")));
  12. //// User person = (User)ois.readObject();
  13. ////
  14. //// System.out.println(person);
  15. //使用工具包
  16. User user = new User("Bob", "male");
  17. byte[] bytes = SerializationUtils.serialize(user);
  18. User person = SerializationUtils.deserialize(bytes);
  19. System.out.println(person);
  20. }
  21. }

实现Externalizable接口

Externalizable继承了Serializable,该接口中定义了两个抽象方法:writeExternal()与readExternal()。当使用Externalizable接口来进行序列化与反序列化的时候需要开发人员重写writeExternal()与readExternal()方法。如果在这两个重写的方法中什么都不干,序列化的属性值为默认值(String类型为null,int类型为0);

另外,在使用Externalizable进行序列化的时候,在读取对象时,会调用被序列化类的无参构造器去创建一个新的对象,然后再将被保存对象的字段的值分别填充到新对象中。所以,实现Externalizable接口的类必须要提供一个public的无参的构造器

示例如下:

  1. public class User implements Externalizable {
  2. private static final long serialVersionUID = 2119162474847154958L;
  3. private String name;
  4. private String gender;
  5. public User() {
  6. }
  7. public User(String name, String gender) {
  8. this.name = name;
  9. this.gender = gender;
  10. }
  11. @Override
  12. public void writeExternal(ObjectOutput out) throws IOException {
  13. out.writeObject(name);
  14. out.writeObject(gender);
  15. }
  16. @Override
  17. public void readExternal(ObjectInput in) throws IOException, ClassNotFoundException {
  18. name = (String) in.readObject();
  19. gender = (String) in.readObject();
  20. }
  21. public String getName() {
  22. return name;
  23. }
  24. public void setName(String name) {
  25. this.name = name;
  26. }
  27. public String getGender() {
  28. return gender;
  29. }
  30. public void setGender(String gender) {
  31. this.gender = gender;
  32. }
  33. @Override
  34. public String toString() {
  35. return "User{" +
  36. "name='" + name + '\'' +
  37. ", gender='" + gender + '\'' +
  38. '}';
  39. }
  40. }
  1. public class Main {
  2. public static void main(String[] args) throws IOException, ClassNotFoundException {
  3. User user = new User("Bob", "male");
  4. ObjectOutputStream oos = new ObjectOutputStream(new FileOutputStream(new File("Object1.txt")));
  5. oos.writeObject(user);
  6. oos.close();
  7. System.out.println(user);
  8. ObjectInputStream ois = new ObjectInputStream(new FileInputStream(new File("Object1.txt")));
  9. User person = (User)ois.readObject();
  10. System.out.println(person);
  11. }
  12. }

Hessian序列化

Hessian序列化是一种支持动态类型、跨语言、基于对象传输的网络协议。Java对象序列化第二进制流可以被其他语言(如C++、Python)反序列化。Hessian具有如下特点:

相比Hessian1.0,Hessian2.0增加了压缩编码,其序列化二进制流大小是Java序列化的50%,序列化耗时是Java序列化的30%,反序列化耗时是Java反序列化耗时的20%。

Hessian会把复杂对象所有属性存储在一个Map中进行序列化。所以在父类、子类存在同名成员变量的情况下,Hessian序列化时,先序列化子类,然后序列化父类,因此反序列化结果会导致子类同名成员变量会被父类的值覆盖

实例如下(过程和Java原生序列化基本相同,需要导入hessian.jar包):

  1. public class User implements Serializable {
  2. private static final long serialVersionUID = 1L;
  3. private String name;
  4. private String gender;
  5. public User(String name, String gender) {
  6. this.name = name;
  7. this.gender = gender;
  8. }
  9. public String getName() {
  10. return name;
  11. }
  12. public void setName(String name) {
  13. this.name = name;
  14. }
  15. public String getGender() {
  16. return gender;
  17. }
  18. public void setGender(String gender) {
  19. this.gender = gender;
  20. }
  21. @Override
  22. public String toString() {
  23. return "User{" +
  24. "name='" + name + '\'' +
  25. ", gender='" + gender + '\'' +
  26. '}';
  27. }
  28. }
  1. public class Main {
  2. public static void main(String[] args) {
  3. User user = new User("Bob", "male");
  4. System.out.println(user);
  5. byte[] bytes = serialize(user);
  6. User person = deserialize(bytes);
  7. System.out.println(person);
  8. }
  9. public static byte[] serialize(User user){
  10. ByteArrayOutputStream baos = null;
  11. HessianOutput ho = null;
  12. try {
  13. baos = new ByteArrayOutputStream();
  14. ho = new HessianOutput(baos);
  15. ho.writeObject(user);
  16. return baos.toByteArray();
  17. } catch (IOException e) {
  18. e.printStackTrace();
  19. }
  20. return null;
  21. }
  22. public static User deserialize(byte[] bytes){
  23. ByteArrayInputStream bais = null;
  24. HessianInput hi = null;
  25. try {
  26. bais = new ByteArrayInputStream(bytes);
  27. hi = new HessianInput(bais);
  28. return (User) hi.readObject();
  29. } catch (IOException e) {
  30. e.printStackTrace();
  31. }
  32. return null;
  33. }
  34. }

打印结果如下:

  1. User{name='Bob', gender='male'}
  2. User{name='Bob', gender='male'}

JSON

JSON(JavaScript Object Notation,JavaScript对象表示法),是一种轻量级的数据交换格式,是JavaScript的严格子集。JSON序列化就是将数据对象转化为JSON字符串。在序列化过程中抛弃了类型信息,所以反序列化时只有提供类型信息才能准确地反序列化。JSON可读性好,性能也不错。

示例如下(使用的是阿里巴巴的fastjson,需要导入fastjson.jar;另外,需要被序列化的对象中必须有无参构造函数):

  1. public class Main {
  2. public static void main(String[] args) {
  3. User user = new User("Bob", "male");
  4. System.out.println(user);
  5. byte[] bytes = serialize(user);
  6. User person = deserialize(bytes);
  7. System.out.println(person);
  8. }
  9. public static byte[] serialize(User user){
  10. ByteArrayOutputStream baos = null;
  11. HessianOutput ho = null;
  12. try {
  13. baos = new ByteArrayOutputStream();
  14. ho = new HessianOutput(baos);
  15. ho.writeObject(user);
  16. return baos.toByteArray();
  17. } catch (IOException e) {
  18. e.printStackTrace();
  19. }
  20. return null;
  21. }
  22. public static User deserialize(byte[] bytes){
  23. ByteArrayInputStream bais = null;
  24. HessianInput hi = null;
  25. try {
  26. bais = new ByteArrayInputStream(bytes);
  27. hi = new HessianInput(bais);
  28. return (User) hi.readObject();
  29. } catch (IOException e) {
  30. e.printStackTrace();
  31. }
  32. return null;
  33. }
  34. }

输出结果为:

  1. User{name='Bob', gender='male'}
  2. User{name='Bob', gender='male'}

Protobuf

protocol buffer(简称protobuf)是google开发的开源的序列化方案,它的好处很多,独立于语言,独立于平台,最最重要的是它的效率相当高,用protobuf序列化后的大小是json的10分之一,xml格式的20分之一,是二进制序列化的10分之一。

protobuf使用起来非常简单,它的主要流程是:写一个.proto文件用来描述序列化的格式,然后用protobuf提供的protoc工具将.proto文件编译成一个Java文件。

要使用protouf,首先选需要到官网下载protobuf的相应版本。这里选用3.3.0。

将下载好的zip解压,能看到bin目录下有一个protoc.exe的文件,等下需要用它来编译文件。直接在bin目录下创建一个User.proto的描述文件,内容如下:

  1. syntax = "proto3";
  2. option java_package = "java.com";
  3. option java_outer_classname = "UserProto";
  4. message User{
  5. string name = 1;
  6. string gender = 2;
  7. int32 age = 3;
  8. Address addr = 4;
  9. }
  10. message Address{
  11. string country = 1;
  12. string city = 2;
  13. }

进入bin目录,使用如下指令生成.java文件。

  1. protoc --java_out=./ ./User.proto

第一个./表示生成的.java文件存放在当前目录下。第二个./表示.proto文件存放的地址。

然后,将生成的UserProto.java文件放入工程目录中,并引入maven依赖:

  1. <dependency>
  2. <groupId>com.google.protobuf</groupId>
  3. <artifactId>protobuf-java</artifactId>
  4. <version>3.3.0</version>
  5. </dependency>

接下来编写测试代码,使用Socket来传输User对象。

Server端:

  1. public class ProtoBufServer {
  2. public static void main(String[] args) throws IOException {
  3. ServerSocket serverSocket = new ServerSocket(8080);
  4. while (true){
  5. Socket socket = serverSocket.accept();
  6. byte[] data = new byte[1024];
  7. socket.getInputStream().read(data);
  8. int dataBodyLen = data[0];
  9. System.out.println("data body length: "+ dataBodyLen);
  10. byte[] dataBody = new byte[dataBodyLen];
  11. System.arraycopy(data, 1, dataBody, 0, dataBodyLen);
  12. UserProto.User user = UserProto.User.parseFrom(dataBody);
  13. System.out.println("received : ");
  14. System.out.println(user.getName()+" "+user.getGender()+" "+user.getAge()+ " "+user.getAddr());
  15. }
  16. }
  17. }

Client端:

  1. public class ProtoBufClient {
  2. public static void main(String[] args) throws IOException {
  3. Socket socket = new Socket("127.0.0.1", 8080);
  4. UserProto.User.Builder user = UserProto.User.newBuilder();
  5. UserProto.Address.Builder address = UserProto.Address.newBuilder();
  6. address.setCountry("China").setCity("hangzhou");
  7. user.setName("张三").setGender("male").setAge(21).setAddr(address);
  8. byte[] messageBody = user.build().toByteArray();
  9. int headLen = 1;
  10. byte[] message = new byte[headLen + messageBody.length];
  11. message[0] = (byte)messageBody.length;
  12. System.arraycopy(messageBody, 0, message, 1, messageBody.length);
  13. System.out.println("message length: "+ message.length);
  14. socket.getOutputStream().write(message);
  15. }
  16. }

依次启动server端和client端,打印结果如下:

server端:

  1. data body length: 35
  2. received :
  3. 张三 male 21 country: "China"
  4. city: "hangzhou"

client端:

  1. message length: 36

Protostuff

protostuff是一个基于protobuf实现的序列化方法,它较于protobuf最明显的好处是,在几乎不损耗性能的情况下做到了不用我们写.proto文件来实现序列化。

示例如下(需要protostuff-api.jar、protostuff-collectionschema.jar、protostuff-core.jar和protostuff-runtime.jar):

  1. public class Main {
  2. public static void main(String[] args) {
  3. User user = new User("Bob", "male");
  4. System.out.println(user);
  5. byte[] bytes = serializer(user);
  6. User person = deserializer(bytes, User.class);
  7. System.out.println(person);
  8. }
  9. public static byte[] serializer(User user){
  10. RuntimeSchema<User> poSchema = RuntimeSchema.createFrom(User.class);
  11. return ProtostuffIOUtil.toByteArray(user, poSchema, LinkedBuffer.allocate(LinkedBuffer.DEFAULT_BUFFER_SIZE));
  12. }
  13. public static User deserializer(byte []bytes,Class<User> c) {
  14. User user = null;
  15. try {
  16. user = c.newInstance();
  17. Schema schema = RuntimeSchema.getSchema(user.getClass());
  18. ProtostuffIOUtil.mergeFrom(bytes,user,schema);
  19. } catch (InstantiationException e) {
  20. e.printStackTrace();
  21. } catch (IllegalAccessException e) {
  22. e.printStackTrace();
  23. }
  24. return user;
  25. }
  26. }

打印结果如下:

  1. User{name='Bob', gender='male'}
  2. User{name='Bob', gender='male'}

kryo

kryo,是一个快速序列化/反序列化工具,效率比java高出一个级别,序列化出来的结果,是其自定义的、独有的一种格式,体积更小,一般只用来进行序列化和反序列化,而不用于在多个系统、甚至多种语言间进行数据交换(目前 kryo 也只有 java 实现),目前已经有多家大公司使用,相对比较稳定。

由于kryo不是线程安全的,针对多线程情况下的使用,要对kryo进行一个简单的封装设计,从而可以多线程安全的使用序列化和反序列化

示例如下():

未完,待续。示例程序编译有问题。

fst

fst是完全兼容JDK序列化协议的系列化框架,序列化速度大概是JDK的4-10倍,大小是JDK大小的1/3左右。

示例如下(需要fst.jar包):

未完,待续。示例程序编译有问题。

需要注意的问题

serialVersionUID

在实现Serializable 接口的时候,一定要给 serialVersionUID 赋值,这标志着这对象的唯一身份,如果序列化和反序列化时的serialVersionUID不通过,反序列化就会失败;同时,如果不给serialVersionUID显示赋值,每次运行时,编译器都会生成一个serialVersionUID,如果类的源码有修改,那么重新编译之后serialVersionUID的取值可能会发生变化。

同时,如果没有特殊需求,就是用默认的 1L 就可以,这样可以确保代码一致时反序列化成功。那么随机生成的序列化 ID 有什么作用呢,有些时候,通过改变序列化 ID 可以用来限制某些用户的使用。

静态对象序列化的问题

序列化时,并不保存静态变量,这其实比较容易理解,序列化保存的是对象的状态,静态变量属于类的状态,因此 序列化并不保存静态变量

示例如下:

  1. public class Test implements Serializable {
  2. private static final long serialVersionUID = 1L;
  3. public static int staticVar = 5;
  4. public static void main(String[] args) {
  5. try {
  6. //初始时staticVar为5
  7. ObjectOutputStream out = new ObjectOutputStream(
  8. new FileOutputStream("result.obj"));
  9. out.writeObject(new Test());
  10. out.close();
  11. //序列化后修改为10
  12. Test.staticVar = 10;
  13. ObjectInputStream oin = new ObjectInputStream(new FileInputStream(
  14. "result.obj"));
  15. Test t = (Test) oin.readObject();
  16. oin.close();
  17. //再读取,通过t.staticVar打印新的值
  18. System.out.println(t.staticVar);
  19. } catch (FileNotFoundException e) {
  20. e.printStackTrace();
  21. } catch (IOException e) {
  22. e.printStackTrace();
  23. } catch (ClassNotFoundException e) {
  24. e.printStackTrace();
  25. }
  26. }
  27. }

打印结果是10。原因就是静态变量不会被序列化,打印的值是新赋的值。

父类的序列化

一个子类实现了 Serializable 接口,它的父类都没有实现 Serializable 接口,序列化该子类对象,然后反序列化后输出父类定义的某变量的数值,该变量数值与序列化时的数值不同。这是因为,如果父类没有继承Serializable接口,那么父类不会被序列化

示例如下:

  1. public class Human {
  2. protected String height;
  3. protected String weight;
  4. public Human() {
  5. }
  6. public Human(String height, String weight) {
  7. this.height = height;
  8. this.weight = weight;
  9. }
  10. public String getHeight() {
  11. return height;
  12. }
  13. public void setHeight(String height) {
  14. this.height = height;
  15. }
  16. public String getWeight() {
  17. return weight;
  18. }
  19. public void setWeight(String weight) {
  20. this.weight = weight;
  21. }
  22. @Override
  23. public String toString() {
  24. return "Human{" +
  25. "height='" + height + '\'' +
  26. ", weight='" + weight + '\'' +
  27. '}';
  28. }
  29. }
  1. public class Person extends Human implements Serializable {
  2. private String name;
  3. private String gender;
  4. public Person(String height, String weight, String name, String gender) {
  5. super(height, weight);
  6. this.name = name;
  7. this.gender = gender;
  8. }
  9. public String getName() {
  10. return name;
  11. }
  12. public void setName(String name) {
  13. this.name = name;
  14. }
  15. public String getGender() {
  16. return gender;
  17. }
  18. public void setGender(String gender) {
  19. this.gender = gender;
  20. }
  21. @Override
  22. public String toString() {
  23. return "Person{" +
  24. "name='" + name + '\'' +
  25. ", gender='" + gender + '\'' +
  26. '}';
  27. }
  28. public String humanToString(){
  29. return super.toString();
  30. }
  31. }
  1. public class Main {
  2. public static void main(String[] args) throws IOException, ClassNotFoundException {
  3. Person p = new Person("180", "60", "Bob", "male");
  4. ObjectOutputStream oos = new ObjectOutputStream(new FileOutputStream(new File("Object3.txt")));
  5. oos.writeObject(p);
  6. oos.close();
  7. System.out.println(p.humanToString());
  8. System.out.println(p);
  9. System.out.println();
  10. ObjectInputStream ois = new ObjectInputStream(new FileInputStream(new File("Object3.txt")));
  11. Person p1 = (Person) ois.readObject();
  12. ois.close();
  13. System.out.println(p1.humanToString());
  14. System.out.println(p1);
  15. }
  16. }

打印结果为:

  1. Human{height='180', weight='60'}
  2. Person{name='Bob', gender='male'}
  3. Human{height='null', weight='null'}
  4. Person{name='Bob', gender='male'}

想将父类对象也序列化,就需要让父类也实现Serializable 接口。如果父类不实现的话的,就 需要有默认的无参的构造函数。在父类没有实现 Serializable 接口时,虚拟机是不会序列化父对象的,而一个 Java 对象的构造必须先有父对象,才有子对象,反序列化也不例外。所以反序列化时,为了构造父对象,只能调用父类的无参构造函数作为默认的父对象(注意,这里只会调用父类的无参构造函数,即使在子类的构造函数中显式调用了父类的有参构造函数,编译也会报错)。因此当我们取父对象的变量值时,它的值是调用父类无参构造函数后的值。如果你考虑到这种序列化的情况,在父类无参构造函数中对变量进行初始化,否则的话,父类变量值都是默认声明的值,如 int 型的默认是 0,string 型的默认是 null。

transient关键字

transient 关键字的作用是控制变量的序列化,在变量声明前加上该关键字,可以阻止该变量被序列化到文件中,在被反序列化后,transient 变量的值被设为初始值,如 int 型的是 0,对象型的是 null。

序列化原理

序列化的步骤如下:

序列化漏洞

序列化通常会通过网络传输对象,而对象中往往有敏感数据,所以序列化往往会成为黑客攻击点。为了防范这种攻击,一种方式是使用transient关键字对敏感数据进行修饰,避免使敏感数据转化成二进制流,另一种方法是使用对称加密非对称加密的方法对敏感数据进行加密。

在序列化过程中,虚拟机会试图调用对象类里的 writeObject 和 readObject 方法,进行用户自定义的序列化和反序列化,如果没有这样的方法,则默认调用是 ObjectOutputStream 的 defaultWriteObject 方法以及 ObjectInputStream 的 defaultReadObject 方法。用户自定义的 writeObject 和 readObject 方法可以允许用户控制序列化的过程,比如可以在序列化的过程中动态改变序列化的数值。基于这个原理,可以在实际应用中得到使用,用于敏感字段的加密工作,清单 3 展示了这个过程。

模拟程序如下:

  1. public class Encryption implements Serializable {
  2. private static final long serialVersionUID = 1L;
  3. private String password = "pass";
  4. public String getPassword() {
  5. return password;
  6. }
  7. public void setPassword(String password) {
  8. this.password = password;
  9. }
  10. private void writeObject(ObjectOutputStream out) {
  11. try {
  12. ObjectOutputStream.PutField putFields = out.putFields();
  13. System.out.println("原密码:" + password);
  14. password = "encryption";//模拟加密
  15. putFields.put("password", password);
  16. System.out.println("加密后的密码" + password);
  17. out.writeFields();
  18. } catch (IOException e) {
  19. e.printStackTrace();
  20. }
  21. }
  22. private void readObject(ObjectInputStream in) {
  23. try {
  24. ObjectInputStream.GetField readFields = in.readFields();
  25. Object object = readFields.get("password", "");
  26. System.out.println("要解密的字符串:" + object.toString());
  27. password = "pass";//模拟解密,需要获得本地的密钥
  28. } catch (IOException e) {
  29. e.printStackTrace();
  30. } catch (ClassNotFoundException e) {
  31. e.printStackTrace();
  32. }
  33. }
  34. public static void main(String[] args) {
  35. try {
  36. ObjectOutputStream out = new ObjectOutputStream(
  37. new FileOutputStream("result.obj"));
  38. out.writeObject(new Encryption());
  39. out.close();
  40. ObjectInputStream oin = new ObjectInputStream(new FileInputStream(
  41. "result.obj"));
  42. Encryption t = (Encryption) oin.readObject();
  43. System.out.println("解密后的字符串:" + t.getPassword());
  44. oin.close();
  45. } catch (FileNotFoundException e) {
  46. e.printStackTrace();
  47. } catch (IOException e) {
  48. e.printStackTrace();
  49. } catch (ClassNotFoundException e) {
  50. e.printStackTrace();
  51. }
  52. }
  53. }

结果如下:

  1. 原密码:pass
  2. 加密后的密码encryption
  3. 要解密的字符串:encryption
  4. 解密后的字符串:pass

序列化在Java中的应用

ArrayList中运用了序列化的知识,具体可以参见另一篇笔记——《Java集合》。

总结

参考

Java 之 Serializable序列化和反序列化的概念,作用的通俗易懂的解释
深入分析Java的序列化与反序列化
http://www.importnew.com/17964.html
关于Java序列化你应该知道的一切
Java 序列化的高级认识
序列化和反序列化的底层实现原理是什么?
关于Java序列化你应该知道的一切
常被问到的十个 Java 面试题
java序列化及项目中常用的序列化工具比较
Hessian实现序列化、反序列化、案例
简单的使用protobuf和protostuff
Google Protocol Buffer 的使用和原理
高性能的序列化与反序列化:kryo的简单使用
Java序列化的原理
Java中序列化实现原理研究
Java序列化机制原理
简单的使用protobuf和protostuff

添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注