当前位置 博文首页 > 一柒微笑:FlatBuffers使用小结

    一柒微笑:FlatBuffers使用小结

    作者:一柒微笑 时间:2021-01-18 14:04

      最近做一个Android APP,由于离线业务需求,需要在启动APP时候同步大量数据到APP上,遇到了JSON性能瓶颈。从下方的图片中可以看出,当使用 json 传输数据,在解析json的时候会产生大量的对象,使得内存疯狂飙升,不论是配置低端的平板还是配置比较高端的手机都会 GC 。而在使用 flatbuffers 的时候不论是平板还是手机,都没有 GC,并且在时间是数量级的差别。0.5s与0.05s的差距对你而言或许并不大,但是1s和10s的差距就很明显了噻,应该没人能忍受一个app的反应时间需要10s之久吧...

      下面是我测试的参数与测试结果,对比提升可以说是相当的明显了。注(这里的解析时间是指:从发起请求到响应后把数据解析成对象的时间,也就是说除去相差不多的网络传输时间,单纯的对数据的解析时间 faltbuffers 提升会更加明显 )

     

    什么是 FlatBuffers ?

      FlatBuffers是一个高效的跨平台序列化库,适用于C++, C#, C, Go, Java, Kotlin, JavaScript, Lobster, Lua, TypeScript, PHP, Python, Rust 和Swift。它们最早由谷歌创立,用来开发游戏和其他一些需要高性能的程序。

    为什么使用 FlatBuffers 会这么快?

      无需解析/拆包即可访问序列化数据-FlatBuffers的与众不同之处在于,它在平坦的二进制缓冲区中表示层次结构数据,使得无需解析/拆包就可以直接访问它,同时还支持数据结构的演进(forward /向后兼容)

    如何使用 FlatBuffers ?

    1.编译器下载地址:https://github.com/google/flatbuffers/releases

    2.编写Schema文件 demo.fbs

    namespace com.zxz.demo.flatbuffer;
    
    table User {
    id : long;
    name : string;
    gender : string;
    departmentId : long;
    createTime : string;
    enabled : bool;
    status : string;
    }
    
    table Account {
    id : long;
    userId : long;
    login : string;
    password : string;
    loginCount : int;
    }
    
    
    table Data {
    userList : [User];
    accountList : [Account];
    }
    
    root_type Data;

    3.生成javaBean文件:flatc.exe --java demo.fbs

    4.下载 FlatBuffers 源码:  https://github.com/google/flatbuffers/tree/master/java,或者看看maven仓库有没有依赖包引入项目

    5.服务端创建数据

    public void service() throws Exception {
        HttpServletResponse response = ActionContext.get().getResponse();
        // 1.创建builder
        FlatBufferBuilder builder = new FlatBufferBuilder(1024);
        List<Integer> list1 = new ArrayList<Integer>();
        for (int i = 0; i < 10; i++) {
            long id = 0L;
            int nameOffset = builder.createString("name");
            int genderOffset = builder.createString("gender");
            long departmentId = 0L;
            int createTimeOffset = builder.createString("2021-01-10");
            boolean enabled = true;
            int statusOffset = builder.createString("status");
            // 2.创建User对象返回 offset值
            int createUser = User.createUser(builder, id, nameOffset, genderOffset, departmentId,
                    createTimeOffset, enabled, statusOffset);
            list1.add(createUser);
        }
        // 3.把存储对象offset值的集合转成数组
        int[] arr1 = list1.stream().mapToInt(Integer::valueOf).toArray();
        // 4.构建User的数据
        int createUsersVector = Data.createUsersVector(builder, arr1);
        // 5.构建Data对象(Data中包含[User])
        Data.startData(builder);
        // 6.添加User的集合
        Data.addUsers(builder, createUsersVector);
        int offset = Data.endData(builder);
        Data.finishDataBuffer(builder, offset);
        // 7.把DataBuffer写入到IO中
        ServletOutputStream os = response.getOutputStream();
        os.write(builder.dataBuffer().array(), builder.dataBuffer().position(), builder.offset());
        os.close();
    }

    6.客户端接收数据

    public void onResponse(Call call, Response response) throws IOException {
       byte[] bytes = response.body().bytes(); ByteBuffer bb = ByteBuffer.wrap(bytes); Data data = Data.getRootAsData(bb); }

     

     

    ==================================END==================================

    ==============================测试结果截图===============================

    图一、平板上使用 json 传输数据

    图二、手机上使用 json 传输数据

    图三、平板上使用 flatbuffers 传输数据

     图四、手机上使用 flatbuffers 传输数据

    下一篇:没有了