gitextract_q1lpf8mw/ ├── .clang-format ├── .clang-tidy ├── .github/ │ ├── ISSUE_TEMPLATE/ │ │ ├── feature.md │ │ └── issue.md │ └── workflows/ │ ├── gitee-mirror.yml │ ├── manual-build-with-image.yml │ ├── manual-build-with-rockchip-images.yml │ ├── merge-request-ascend.yml │ ├── merge-request-cuda.yml │ ├── merge-request-rockchip.yml │ ├── publish-modelbox-images.yml │ ├── unit-test-daily-on-device.yml │ └── unit-test-pull-requests-on-device.yml ├── .gitignore ├── CMake/ │ ├── Clang-tidy.cmake │ ├── FindACL.cmake │ ├── FindCPPREST.cmake │ ├── FindCUDACUDA.cmake │ ├── FindDIS.cmake │ ├── FindDLENGINE.cmake │ ├── FindDSMI.cmake │ ├── FindDUKTAPE.cmake │ ├── FindFFMPEG.cmake │ ├── FindFUSE.cmake │ ├── FindMINDSPORE_LITE.cmake │ ├── FindNVCUVID.cmake │ ├── FindOBS.cmake │ ├── FindROCKCHIP.cmake │ ├── FindTENSORFLOW.cmake │ ├── FindTENSORRT.cmake │ ├── FindVCN.cmake │ ├── Function.cmake │ ├── JavaJDK.cmake │ ├── Options.cmake │ ├── ProjectEnvVars.cmake │ ├── SecureCompilerOption.cmake │ └── clang-tidy-warp ├── CMakeLists.txt ├── LICENSE ├── NOTICE ├── README.md ├── README_en.md ├── Third_Party_Open_Source_Software_Notice ├── docker/ │ ├── Dockerfile.ascend.base │ ├── Dockerfile.ascend.develop.openeuler │ ├── Dockerfile.ascend.develop.ubuntu │ ├── Dockerfile.ascend.runtime.openeuler │ ├── Dockerfile.ascend.runtime.ubuntu │ ├── Dockerfile.cuda.develop.openeuler │ ├── Dockerfile.cuda.develop.ubuntu │ ├── Dockerfile.cuda.runtime.openeuler │ ├── Dockerfile.cuda.runtime.ubuntu │ ├── Dockerfile.rknnrt.build.ubuntu │ ├── README.md │ ├── artifact_check.sh │ ├── prepare_for_dev.sh │ ├── prepare_for_rockchip.sh │ ├── prepare_for_run.sh │ └── repo/ │ ├── cuda.repo │ └── nvidia-ml.repo ├── docs/ │ ├── CMakeLists.txt │ ├── Design.md │ ├── Doxyfile.in │ ├── Goal.md │ └── assets/ │ ├── architecture.vsdx │ └── modelbox.vsdx ├── examples/ │ ├── CMakeLists.txt │ ├── bin/ │ │ └── template │ ├── flowunit/ │ │ ├── CMakeLists.txt │ │ ├── c++/ │ │ │ ├── CMakeLists.txt │ │ │ ├── example.cc │ │ │ ├── example.h │ │ │ └── example.toml │ │ ├── infer/ │ │ │ ├── CMakeLists.txt │ │ │ └── example.toml │ │ ├── plugin/ │ │ │ ├── data_source_parser/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── driver_desc.cc │ │ │ │ ├── example.cc │ │ │ │ └── example.h │ │ │ └── output_broker/ │ │ │ ├── CMakeLists.txt │ │ │ ├── driver_desc.cc │ │ │ ├── example.cc │ │ │ └── example.h │ │ ├── python/ │ │ │ ├── CMakeLists.txt │ │ │ ├── example.py │ │ │ └── example.toml │ │ └── yolo/ │ │ ├── CMakeLists.txt │ │ └── example.toml │ ├── misc/ │ │ └── modelbox-template-cmd.json.in │ ├── project/ │ │ ├── base/ │ │ │ ├── CMakeLists.txt │ │ │ ├── package/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── debian/ │ │ │ │ │ ├── postinst.in │ │ │ │ │ └── postrm.in │ │ │ │ └── rpm/ │ │ │ │ ├── postinscript.in │ │ │ │ └── postunscript.in │ │ │ ├── readme.txt │ │ │ ├── src/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── flowunit/ │ │ │ │ │ └── CMakeLists.txt │ │ │ │ ├── graph/ │ │ │ │ │ └── CMakeLists.txt │ │ │ │ └── service-plugin/ │ │ │ │ └── CMakeLists.txt │ │ │ ├── test/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── flowunit/ │ │ │ │ │ └── CMakeLists.txt │ │ │ │ ├── mock/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── mock_modelbox.cc │ │ │ │ │ └── mock_modelbox.h │ │ │ │ └── test_config.h.in │ │ │ └── thirdparty/ │ │ │ ├── CMake/ │ │ │ │ ├── local-package.in │ │ │ │ └── pre-download.in │ │ │ └── CMakeLists.txt │ │ ├── car_detection/ │ │ │ ├── desc.toml │ │ │ └── setup.sh │ │ ├── emotion_detection/ │ │ │ ├── desc.toml │ │ │ ├── download_emotion_files.sh │ │ │ └── setup.sh │ │ ├── empty/ │ │ │ ├── desc.toml │ │ │ └── src/ │ │ │ └── graph/ │ │ │ └── empty.toml │ │ ├── hello_world/ │ │ │ ├── desc.toml │ │ │ └── setup.sh │ │ ├── mnist/ │ │ │ ├── desc.toml │ │ │ └── setup.sh │ │ ├── mnist-mindspore/ │ │ │ ├── desc.toml │ │ │ ├── setup.sh │ │ │ └── src/ │ │ │ ├── flowunit/ │ │ │ │ ├── mnist_infer/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── mnist_infer.toml │ │ │ │ │ └── train.sh │ │ │ │ ├── mnist_preprocess/ │ │ │ │ │ ├── mnist_preprocess.py │ │ │ │ │ └── mnist_preprocess.toml │ │ │ │ └── mnist_response/ │ │ │ │ ├── mnist_response.py │ │ │ │ └── mnist_response.toml │ │ │ └── graph/ │ │ │ └── mnist.toml │ │ └── resize/ │ │ ├── desc.toml │ │ ├── src/ │ │ │ ├── flowunit/ │ │ │ │ └── resize_flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── resize_flowunit.cc │ │ │ │ └── resize_flowunit.h │ │ │ └── graph/ │ │ │ └── resize.toml │ │ └── test/ │ │ └── flowunit/ │ │ └── resize_flowuint_test.cc │ └── service-plugin/ │ ├── CMakeLists.txt │ ├── example.cc │ └── example.h ├── package/ │ ├── CMakeLists.txt │ ├── debian/ │ │ ├── modelbox-server/ │ │ │ ├── conffiles.in │ │ │ ├── postinst.in │ │ │ └── postrm.in │ │ └── postinst │ └── rpm/ │ ├── demo/ │ │ └── postscript │ ├── modelbox-server/ │ │ ├── conffiles.in │ │ ├── postscript.in │ │ └── postunscript.in │ └── postscript ├── src/ │ ├── CMakeLists.txt │ ├── demo/ │ │ ├── CMakeLists.txt │ │ ├── car_detection/ │ │ │ ├── CMakeLists.txt │ │ │ ├── flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── car_detect/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── car_detect.toml │ │ │ │ │ └── yolox_nano_jit_trace_288x512.pt │ │ │ │ └── yolox_post/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── yolox_post.py │ │ │ │ ├── yolox_post.toml │ │ │ │ └── yolox_utils.py │ │ │ └── graph/ │ │ │ ├── CMakeLists.txt │ │ │ └── car_detection.toml.in │ │ ├── emotion_detection/ │ │ │ ├── CMakeLists.txt │ │ │ ├── flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── collapse_emotion/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── collapse_emotion.py │ │ │ │ │ └── collapse_emotion.toml │ │ │ │ ├── custom_resize/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── custom_resize.py │ │ │ │ │ └── custom_resize.toml │ │ │ │ ├── draw_emotion/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── draw_emotion.py │ │ │ │ │ └── draw_emotion.toml │ │ │ │ ├── emotion_infer/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ └── emotion_infer.toml │ │ │ │ ├── expand_box/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── expand_box.py │ │ │ │ │ └── expand_box.toml │ │ │ │ ├── face_detect/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ └── face_detect.toml │ │ │ │ └── face_post/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── face_post.py │ │ │ │ ├── face_post.toml │ │ │ │ └── face_post_utils.py │ │ │ └── graph/ │ │ │ ├── CMakeLists.txt │ │ │ └── emotion_detection.toml.in │ │ ├── hello_world/ │ │ │ ├── CMakeLists.txt │ │ │ ├── flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ └── hello_world/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── hello_world.py │ │ │ │ └── hello_world.toml │ │ │ └── graph/ │ │ │ ├── CMakeLists.txt │ │ │ ├── hello_world.toml.in │ │ │ └── test_hello_world.py │ │ └── mnist/ │ │ ├── CMakeLists.txt │ │ ├── flowunit/ │ │ │ ├── CMakeLists.txt │ │ │ ├── mnist_infer/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── mnist_infer.toml │ │ │ │ ├── mnist_model.pb │ │ │ │ ├── train.py │ │ │ │ └── train.sh │ │ │ ├── mnist_preprocess/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── mnist_preprocess.py │ │ │ │ └── mnist_preprocess.toml │ │ │ └── mnist_response/ │ │ │ ├── CMakeLists.txt │ │ │ ├── mnist_response.py │ │ │ └── mnist_response.toml │ │ └── graph/ │ │ ├── CMakeLists.txt │ │ ├── mnist.toml.in │ │ └── test_mnist.py │ ├── develop/ │ │ └── CMakeLists.txt │ ├── drivers/ │ │ ├── CMakeLists.txt │ │ ├── common/ │ │ │ ├── CMakeLists.txt │ │ │ ├── devices/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ └── device_stream/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── device_stream.cc │ │ │ │ └── device_stream.h │ │ │ ├── flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── driver_util/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── driver_util.cc │ │ │ │ │ └── driver_util.h │ │ │ │ ├── hw_components/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── iam_auth/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── iam_api.cc │ │ │ │ │ │ ├── iam_api.h │ │ │ │ │ │ ├── iam_auth.cc │ │ │ │ │ │ ├── iam_auth.h │ │ │ │ │ │ ├── token_manager.cc │ │ │ │ │ │ └── token_manager.h │ │ │ │ │ └── obs_client/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ └── obs_client.cc │ │ │ │ ├── image_process/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── image_process.cc │ │ │ │ │ └── image_process.h │ │ │ │ ├── image_rotate/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── image_rotate_base.cc │ │ │ │ │ ├── image_rotate_base.h │ │ │ │ │ ├── image_rotate_test_base.cc │ │ │ │ │ └── image_rotate_test_base.h │ │ │ │ ├── inference/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── model_decrypt.cc │ │ │ │ │ ├── model_decrypt.h │ │ │ │ │ ├── model_decrypt_header.h │ │ │ │ │ └── model_decrypt_interface.h │ │ │ │ ├── mean/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── mean_flowunit_base.cc │ │ │ │ │ └── mean_flowunit_base.h │ │ │ │ ├── normalize/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── normalize_flowunit_base.cc │ │ │ │ │ └── normalize_flowunit_base.h │ │ │ │ ├── safe_http/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── http_util.cc │ │ │ │ │ └── http_util.h │ │ │ │ ├── source_context/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── source_context.cc │ │ │ │ │ └── source_context.h │ │ │ │ └── video_decode/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── ffmpeg_color_converter.cc │ │ │ │ ├── ffmpeg_color_converter.h │ │ │ │ ├── video_decode_common.cc │ │ │ │ └── video_decode_common.h │ │ │ ├── libs/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── file_requester/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ └── file_requester.cc │ │ │ │ ├── fuse/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── modelbox_fuse.cc │ │ │ │ │ └── modelbox_fuse_test.cc │ │ │ │ └── include/ │ │ │ │ └── modelbox/ │ │ │ │ └── drivers/ │ │ │ │ └── common/ │ │ │ │ ├── file_requester.h │ │ │ │ └── modelbox_fuse.h │ │ │ └── python/ │ │ │ ├── CMakeLists.txt │ │ │ └── modelbox_api/ │ │ │ ├── CMakeLists.txt │ │ │ ├── modelbox_api.cc │ │ │ ├── modelbox_api.h │ │ │ ├── python_common.cc │ │ │ ├── python_common.h │ │ │ ├── python_flow.cc │ │ │ ├── python_flow.h │ │ │ ├── python_flowunit.cc │ │ │ ├── python_flowunit.h │ │ │ ├── python_log.cc │ │ │ ├── python_log.h │ │ │ ├── python_model.cc │ │ │ └── python_model.h │ │ ├── devices/ │ │ │ ├── CMakeLists.txt │ │ │ ├── ascend/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── core/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── ascend_memory.cc │ │ │ │ │ ├── device_ascend.cc │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ ├── include/ │ │ │ │ │ │ └── modelbox/ │ │ │ │ │ │ └── device/ │ │ │ │ │ │ └── ascend/ │ │ │ │ │ │ ├── ascend_memory.h │ │ │ │ │ │ └── device_ascend.h │ │ │ │ │ └── libmodelbox-device-ascend.pc.in │ │ │ │ └── flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── crop/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── crop_flowunit.cc │ │ │ │ │ ├── crop_flowunit.h │ │ │ │ │ └── crop_flowunit_test.cc │ │ │ │ ├── inference/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── atc_inference.cc │ │ │ │ │ ├── atc_inference.h │ │ │ │ │ ├── atc_inference_flowunit.cc │ │ │ │ │ ├── atc_inference_flowunit.h │ │ │ │ │ ├── atc_inference_flowunit_test.cc │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ ├── modelbox.test.ascend.inference.encrypt.in │ │ │ │ │ └── modelbox.test.ascend.inference.in │ │ │ │ ├── mindspore_lite_inference/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── mindspore_ascend_inference_flowunit.cc │ │ │ │ │ ├── mindspore_ascend_inference_flowunit.h │ │ │ │ │ ├── mindspore_lite_ascend_inference_flowunit_test.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ ├── modelbox.test.mindspore_lite.ascend.inference.encrypt.in │ │ │ │ │ └── modelbox.test.mindspore_lite.ascend.inference.in │ │ │ │ ├── padding/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── padding_flowunit.cc │ │ │ │ │ ├── padding_flowunit.h │ │ │ │ │ └── padding_flowunit_test.cc │ │ │ │ ├── resize/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── resize_flowunit.cc │ │ │ │ │ ├── resize_flowunit.h │ │ │ │ │ └── resize_flowunit_test.cc │ │ │ │ └── video_decoder/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── ascend_video_decode.cc │ │ │ │ ├── ascend_video_decode.h │ │ │ │ ├── video_decoder_flowunit.cc │ │ │ │ ├── video_decoder_flowunit.h │ │ │ │ └── video_decoder_flowunit_test.cc │ │ │ ├── cpu/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── core/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── cpu_memory.cc │ │ │ │ │ ├── device_cpu.cc │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ ├── include/ │ │ │ │ │ │ └── modelbox/ │ │ │ │ │ │ └── device/ │ │ │ │ │ │ └── cpu/ │ │ │ │ │ │ ├── cpu_memory.h │ │ │ │ │ │ └── device_cpu.h │ │ │ │ │ └── libmodelbox-device-cpu.pc.in │ │ │ │ └── flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── base64_decoder/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── base64_decoder.cc │ │ │ │ │ ├── base64_decoder.h │ │ │ │ │ └── base64_decoder_test.cc │ │ │ │ ├── color_transpose/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── color_transpose_flowunit.cc │ │ │ │ │ └── color_transpose_flowunit.h │ │ │ │ ├── common_yolobox/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── modelbox.test.yolobox.in │ │ │ │ │ ├── yolo_helper.cc │ │ │ │ │ ├── yolo_helper.h │ │ │ │ │ ├── yolobox_flowuint_test.cc │ │ │ │ │ ├── yolobox_flowunit.cc │ │ │ │ │ └── yolobox_flowunit.h │ │ │ │ ├── cv_crop/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── cv_crop_flowunit.cc │ │ │ │ │ ├── cv_crop_flowunit.h │ │ │ │ │ └── cv_crop_flowunit_test.cc │ │ │ │ ├── data_source_generator/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── data_source_generator.cc │ │ │ │ │ ├── data_source_generator.h │ │ │ │ │ └── data_source_generator_test.cc │ │ │ │ ├── data_source_parser/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── data_source_parser_flowunit.cc │ │ │ │ │ ├── data_source_parser_flowunit.h │ │ │ │ │ ├── data_source_parser_flowunit_test.cc │ │ │ │ │ └── parser_plugin/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── obs_source_parser/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ ├── obs_file_handler.cc │ │ │ │ │ │ ├── obs_file_handler.h │ │ │ │ │ │ ├── obs_source_parser.cc │ │ │ │ │ │ ├── obs_source_parser.h │ │ │ │ │ │ └── obs_source_parser_test.cc │ │ │ │ │ ├── restful_source_parser/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ ├── restful_source_parser.cc │ │ │ │ │ │ └── restful_source_parser.h │ │ │ │ │ ├── url_source_parser/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ ├── url_source_parser.cc │ │ │ │ │ │ └── url_source_parser.h │ │ │ │ │ ├── vcn_common/ │ │ │ │ │ │ ├── vcn_info.cc │ │ │ │ │ │ └── vcn_info.h │ │ │ │ │ ├── vcn_restful_source_parser/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ ├── vcn_restful_client.cc │ │ │ │ │ │ ├── vcn_restful_client.h │ │ │ │ │ │ ├── vcn_restful_source_parser.cc │ │ │ │ │ │ ├── vcn_restful_source_parser.h │ │ │ │ │ │ ├── vcn_restful_source_parser_test.cc │ │ │ │ │ │ ├── vcn_restful_wrapper.cc │ │ │ │ │ │ ├── vcn_restful_wrapper.h │ │ │ │ │ │ ├── vcn_restful_wrapper_mock_test.cc │ │ │ │ │ │ └── vcn_restful_wrapper_mock_test.h │ │ │ │ │ ├── vcn_source_parser/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ ├── vcn_client.cc │ │ │ │ │ │ ├── vcn_client.h │ │ │ │ │ │ ├── vcn_sdk_wrapper.cc │ │ │ │ │ │ ├── vcn_sdk_wrapper.h │ │ │ │ │ │ ├── vcn_sdk_wrapper_mock_test.cc │ │ │ │ │ │ ├── vcn_sdk_wrapper_mock_test.h │ │ │ │ │ │ ├── vcn_source_parser.cc │ │ │ │ │ │ ├── vcn_source_parser.h │ │ │ │ │ │ └── vcn_source_parser_test.cc │ │ │ │ │ └── vis_source_parser/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ ├── vis_source_parser.cc │ │ │ │ │ └── vis_source_parser.h │ │ │ │ ├── dlengine/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── dlengine_cpu_inference_flowunit.cc │ │ │ │ │ ├── dlengine_cpu_inference_flowunit.h │ │ │ │ │ ├── dlengine_cpu_inference_flowunit_test.cc │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ └── modelbox.test.dlengine.cpu.inference.onnx.in │ │ │ │ ├── draw_bbox/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── draw_bbox_flowunit.cc │ │ │ │ │ ├── draw_bbox_flowunit.h │ │ │ │ │ └── draw_bbox_flowunit_test.cc │ │ │ │ ├── httpserver_async/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── httpserver_async.cc │ │ │ │ │ ├── httpserver_async.h │ │ │ │ │ └── httpserver_async_test.cc │ │ │ │ ├── httpserver_sync/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── httpserver_sync.cc │ │ │ │ │ ├── httpserver_sync_test.cc │ │ │ │ │ ├── receive/ │ │ │ │ │ │ ├── httpserver_sync_receive.cc │ │ │ │ │ │ └── httpserver_sync_receive.h │ │ │ │ │ └── reply/ │ │ │ │ │ ├── httpserver_sync_reply.cc │ │ │ │ │ └── httpserver_sync_reply.h │ │ │ │ ├── image_decoder/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── image_decoder.cc │ │ │ │ │ ├── image_decoder.h │ │ │ │ │ └── image_decoder_test.cc │ │ │ │ ├── image_rotate/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── image_rotate.cc │ │ │ │ │ ├── image_rotate.h │ │ │ │ │ └── image_rotate_test.cc │ │ │ │ ├── java/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── java_flowunit.cc │ │ │ │ │ ├── java_flowunit.h │ │ │ │ │ ├── java_flowunit_test.cc │ │ │ │ │ ├── java_module.cc │ │ │ │ │ └── java_module.h │ │ │ │ ├── mean/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── mean_flowunit.cc │ │ │ │ │ ├── mean_flowunit.h │ │ │ │ │ └── mean_flowunit_test.cc │ │ │ │ ├── meta_mapping/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── meta_mapping_flowunit.cc │ │ │ │ │ ├── meta_mapping_flowunit.h │ │ │ │ │ └── meta_mapping_flowunit_test.cc │ │ │ │ ├── mindspore_lite_inference/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── mindspore_cpu_inference_flowunit.cc │ │ │ │ │ ├── mindspore_cpu_inference_flowunit.h │ │ │ │ │ ├── mindspore_cpu_inference_flowunit_test.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ ├── modelbox.test.mindspore.cpu.inference.encrypt.in │ │ │ │ │ └── modelbox.test.mindspore.cpu.inference.in │ │ │ │ ├── model_decrypt_plugin/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ ├── model_decrypt_plugin.cc │ │ │ │ │ ├── model_decrypt_plugin.h │ │ │ │ │ └── model_decrypt_plugin_test.cc │ │ │ │ ├── normalize/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── normalize_flowunit.cc │ │ │ │ │ ├── normalize_flowunit.h │ │ │ │ │ └── normalize_flowunit_test.cc │ │ │ │ ├── output_broker/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── broker_plugin/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── dis_output_broker/ │ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ │ ├── dis_output_broker.cc │ │ │ │ │ │ │ ├── dis_output_broker.h │ │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ │ └── driver_desc.h │ │ │ │ │ │ ├── obs_output_broker/ │ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ │ ├── obs_output_broker.cc │ │ │ │ │ │ │ ├── obs_output_broker.h │ │ │ │ │ │ │ └── obs_output_broker_test.cc │ │ │ │ │ │ └── webhook_output_broker/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ │ ├── webhook_output_broker.cc │ │ │ │ │ │ └── webhook_output_broker.h │ │ │ │ │ ├── output_broker_flowunit.cc │ │ │ │ │ ├── output_broker_flowunit.h │ │ │ │ │ └── output_broker_flowunit_test.cc │ │ │ │ ├── padding/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── padding_flowunit.cc │ │ │ │ │ ├── padding_flowunit.h │ │ │ │ │ └── padding_flowunit_test.cc │ │ │ │ ├── python/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── python_flowunit.cc │ │ │ │ │ ├── python_flowunit.h │ │ │ │ │ ├── python_flowunit_test.cc │ │ │ │ │ ├── python_module.cc │ │ │ │ │ └── python_module.h │ │ │ │ ├── resize/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── resize_flowunit.cc │ │ │ │ │ ├── resize_flowunit.h │ │ │ │ │ └── resize_flowunit_test.cc │ │ │ │ ├── tensorflow/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── tensorflow_cpu_inference_flowunit.cc │ │ │ │ │ ├── tensorflow_cpu_inference_flowunit.h │ │ │ │ │ ├── tensorflow_cpu_inference_flowunit_test.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ └── modelbox.test.cpu.tensorflow.in │ │ │ │ ├── video_decoder/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── ffmpeg_video_decoder.cc │ │ │ │ │ ├── ffmpeg_video_decoder.h │ │ │ │ │ ├── video_decoder_flowunit.cc │ │ │ │ │ ├── video_decoder_flowunit.h │ │ │ │ │ └── video_decoder_flowunit_test.cc │ │ │ │ ├── video_demuxer/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── ffmpeg_reader.cc │ │ │ │ │ ├── ffmpeg_reader.h │ │ │ │ │ ├── ffmpeg_video_demuxer.cc │ │ │ │ │ ├── ffmpeg_video_demuxer.h │ │ │ │ │ ├── video_demux_flowunit_retry_test.cc │ │ │ │ │ ├── video_demuxer_flowunit.cc │ │ │ │ │ ├── video_demuxer_flowunit.h │ │ │ │ │ └── video_demuxer_flowunit_test.cc │ │ │ │ ├── video_encoder/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── ffmpeg_video_encoder.cc │ │ │ │ │ ├── ffmpeg_video_encoder.h │ │ │ │ │ ├── ffmpeg_video_muxer.cc │ │ │ │ │ ├── ffmpeg_video_muxer.h │ │ │ │ │ ├── ffmpeg_writer.cc │ │ │ │ │ ├── ffmpeg_writer.h │ │ │ │ │ ├── video_encoder_flowunit.cc │ │ │ │ │ ├── video_encoder_flowunit.h │ │ │ │ │ └── video_encoder_flowunit_test.cc │ │ │ │ └── video_input/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── video_input_flowunit.cc │ │ │ │ └── video_input_flowunit.h │ │ │ ├── cuda/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── core/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── cuda_memory.cc │ │ │ │ │ ├── device_cuda.cc │ │ │ │ │ ├── driver_desc.cc │ │ │ │ │ ├── include/ │ │ │ │ │ │ └── modelbox/ │ │ │ │ │ │ └── device/ │ │ │ │ │ │ └── cuda/ │ │ │ │ │ │ ├── cuda_memory.h │ │ │ │ │ │ └── device_cuda.h │ │ │ │ │ └── libmodelbox-device-cuda.pc.in │ │ │ │ └── flowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── color_transpose/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── color_transpose.cc │ │ │ │ │ ├── color_transpose.cu │ │ │ │ │ ├── color_transpose.h │ │ │ │ │ ├── color_transpose_cu.h │ │ │ │ │ └── color_transpose_test.cc │ │ │ │ ├── dlengine/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── dlengine_cuda_inference_flowunit.cc │ │ │ │ │ ├── dlengine_cuda_inference_flowunit.h │ │ │ │ │ ├── dlengine_cuda_inference_flowunit_test.cc │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ └── modelbox.test.dlengine.cuda.inference.onnx.in │ │ │ │ ├── image_rotate/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── image_rotate.cc │ │ │ │ │ ├── image_rotate.cu │ │ │ │ │ ├── image_rotate.h │ │ │ │ │ ├── image_rotate_cu.h │ │ │ │ │ └── image_rotate_test.cc │ │ │ │ ├── mean/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── mean.cc │ │ │ │ │ ├── mean.h │ │ │ │ │ ├── mean_flowunit.cc │ │ │ │ │ ├── mean_flowunit.h │ │ │ │ │ └── mean_flowunit_test.cc │ │ │ │ ├── mindspore_lite_inference/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── mindspore_cuda_inference_flowunit.cc │ │ │ │ │ ├── mindspore_cuda_inference_flowunit.h │ │ │ │ │ ├── mindspore_cuda_inference_flowunit_test.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ ├── modelbox.test.mindspore.cuda.inference.encrypt.in │ │ │ │ │ └── modelbox.test.mindspore.cuda.inference.in │ │ │ │ ├── normalize/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── normalize.cc │ │ │ │ │ ├── normalize.h │ │ │ │ │ ├── normalize_flowunit.cc │ │ │ │ │ ├── normalize_flowunit.h │ │ │ │ │ └── normalize_flowunit_test.cc │ │ │ │ ├── normalize_v2/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── normalize_flowunit.cc │ │ │ │ │ ├── normalize_flowunit.cu │ │ │ │ │ ├── normalize_flowunit.h │ │ │ │ │ ├── normalize_flowunit_cu.h │ │ │ │ │ └── normalize_flowunit_test.cc │ │ │ │ ├── nppi_crop/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── nppi_crop_flowunit.cc │ │ │ │ │ ├── nppi_crop_flowunit.h │ │ │ │ │ └── nppi_crop_flowunit_test.cc │ │ │ │ ├── nppi_resize/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── resize_flowunit.cc │ │ │ │ │ ├── resize_flowunit.h │ │ │ │ │ └── resize_flowunit_test.cc │ │ │ │ ├── nv_image_decoder/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── nv_image_decoder.cc │ │ │ │ │ ├── nv_image_decoder.h │ │ │ │ │ └── nv_image_decoder_test.cc │ │ │ │ ├── padding/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── padding_flowunit.cc │ │ │ │ │ ├── padding_flowunit.h │ │ │ │ │ └── padding_flowunit_test.cc │ │ │ │ ├── tensorflow/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── tensorflow_gpu_inference_flowunit.cc │ │ │ │ │ ├── tensorflow_gpu_inference_flowunit.h │ │ │ │ │ ├── tensorflow_gpu_inference_flowunit_test.cc │ │ │ │ │ └── test_toml/ │ │ │ │ │ ├── modelbox.test.cuda.tensorflow.encrypt.in │ │ │ │ │ ├── modelbox.test.cuda.tensorflow.in │ │ │ │ │ ├── modelbox.test.cuda.tensorflow.savemodel.in │ │ │ │ │ └── modelbox.test.cuda.tensorflow_plugin.in │ │ │ │ ├── tensorrt/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── common_util.h │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── nvplugin/ │ │ │ │ │ │ ├── plugin_factory.h │ │ │ │ │ │ ├── upsample-layer.cpp │ │ │ │ │ │ ├── upsample-layer.cu │ │ │ │ │ │ └── upsample-layer.h │ │ │ │ │ ├── tensorrt_inference_flowunit.cc │ │ │ │ │ ├── tensorrt_inference_flowunit.h │ │ │ │ │ ├── tensorrt_inference_flowunit_test.cc │ │ │ │ │ ├── tensorrt_inference_plugin.h │ │ │ │ │ ├── test_plugin/ │ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ │ ├── generate_plugin.cc │ │ │ │ │ │ └── generate_plugin.h │ │ │ │ │ └── test_toml/ │ │ │ │ │ ├── modelbox.test.plugin.tensorrt.in │ │ │ │ │ ├── modelbox.test.tensorrt.encrypt.in │ │ │ │ │ └── modelbox.test.tensorrt.in │ │ │ │ ├── torch/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── flowunit_desc.cc │ │ │ │ │ ├── test_toml/ │ │ │ │ │ │ ├── modelbox.test.torch.encrypt.in │ │ │ │ │ │ ├── modelbox.test.torch.in │ │ │ │ │ │ └── modelbox.test.torch_2.in │ │ │ │ │ ├── torch_inference_flowunit.cc │ │ │ │ │ ├── torch_inference_flowunit.h │ │ │ │ │ └── torch_inference_flowunit_test.cc │ │ │ │ └── video_decoder/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── nppi_color_converter.cc │ │ │ │ ├── nppi_color_converter.h │ │ │ │ ├── nvcodec_video_decoder.cc │ │ │ │ ├── nvcodec_video_decoder.h │ │ │ │ ├── video_decoder_flowunit.cc │ │ │ │ ├── video_decoder_flowunit.h │ │ │ │ └── video_decoder_flowunit_test.cc │ │ │ └── rockchip/ │ │ │ ├── CMakeLists.txt │ │ │ ├── common/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ └── video_out/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── ffmpeg_video_muxer.cc │ │ │ │ ├── ffmpeg_video_muxer.h │ │ │ │ ├── ffmpeg_writer.cc │ │ │ │ └── ffmpeg_writer.h │ │ │ ├── core/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── device_rockchip.cc │ │ │ │ ├── driver_desc.cc │ │ │ │ ├── driver_desc.h │ │ │ │ ├── include/ │ │ │ │ │ └── modelbox/ │ │ │ │ │ └── device/ │ │ │ │ │ └── rockchip/ │ │ │ │ │ ├── device_rockchip.h │ │ │ │ │ ├── rockchip_api.h │ │ │ │ │ └── rockchip_memory.h │ │ │ │ ├── libmodelbox-device-rockchip.pc.in │ │ │ │ ├── rockchip_api.cc │ │ │ │ └── rockchip_memory.cc │ │ │ └── flowunit/ │ │ │ ├── CMakeLists.txt │ │ │ ├── crop/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── crop_flowunit.cc │ │ │ │ ├── crop_flowunit.h │ │ │ │ └── crop_flowunit_test.cc │ │ │ ├── image_decoder/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── image_decoder.cc │ │ │ │ ├── image_decoder.h │ │ │ │ └── image_decoder_test.cc │ │ │ ├── inference_rknpu2/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── flowunit_desc.cc │ │ │ │ ├── modelbox.test.rknpu2.inference.in │ │ │ │ ├── rknpu2_inference.cc │ │ │ │ ├── rknpu2_inference.h │ │ │ │ ├── rknpu2_inference_flowunit.cc │ │ │ │ └── rknpu2_inference_flowunit.h │ │ │ ├── local_camera/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── local_camera_flowunit.cc │ │ │ │ ├── local_camera_flowunit.h │ │ │ │ ├── v4l2_camera.cc │ │ │ │ └── v4l2_camera.h │ │ │ ├── resize/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── resize_flowunit.cc │ │ │ │ ├── resize_flowunit.h │ │ │ │ └── resize_flowunit_test.cc │ │ │ ├── to_cpuimg/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── mpp_to_cpu_flowunit.cc │ │ │ │ ├── mpp_to_cpu_flowunit.h │ │ │ │ └── mpp_to_cpu_flowunit_test.cc │ │ │ ├── video_decoder/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── rk_video_decoder.cc │ │ │ │ ├── rk_video_decoder.h │ │ │ │ ├── video_decoder_flowunit.cc │ │ │ │ ├── video_decoder_flowunit.h │ │ │ │ └── video_decoder_flowunit_test.cc │ │ │ └── video_out/ │ │ │ ├── CMakeLists.txt │ │ │ ├── ffmpeg_video_encoder.cc │ │ │ ├── ffmpeg_video_encoder.h │ │ │ ├── video_out_flowunit.cc │ │ │ ├── video_out_flowunit.h │ │ │ └── video_out_flowunit_test.cc │ │ ├── graph_conf/ │ │ │ ├── CMakeLists.txt │ │ │ └── graphviz/ │ │ │ ├── CMakeLists.txt │ │ │ ├── graph_conf_desc.cc │ │ │ ├── graphviz_conf.cc │ │ │ └── graphviz_conf.h │ │ ├── inference_engine/ │ │ │ ├── CMakeLists.txt │ │ │ ├── dlengine/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── dlengine_inference.cc │ │ │ │ ├── dlengine_inference.h │ │ │ │ ├── dlengine_inference_flowunit.h │ │ │ │ ├── dlengine_inference_flowunit_test.cc │ │ │ │ └── dlengine_inference_flowunit_test.h │ │ │ ├── mindspore/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── mindspore_inference.cc │ │ │ │ ├── mindspore_inference.h │ │ │ │ ├── mindspore_inference_flowunit_test.cc │ │ │ │ └── mindspore_inference_flowunit_test.h │ │ │ └── tensorflow/ │ │ │ ├── CMakeLists.txt │ │ │ ├── tensorflow_inference_common.cc │ │ │ ├── tensorflow_inference_common.h │ │ │ ├── tensorflow_inference_plugin.h │ │ │ └── test_plugin/ │ │ │ ├── CMakeLists.txt │ │ │ ├── generate_plugin.cc │ │ │ └── generate_plugin.h │ │ └── virtual/ │ │ ├── CMakeLists.txt │ │ ├── inference/ │ │ │ ├── CMakeLists.txt │ │ │ ├── virtualdriver_desc.cc │ │ │ ├── virtualdriver_inference.cc │ │ │ └── virtualdriver_inference.h │ │ ├── java/ │ │ │ ├── CMakeLists.txt │ │ │ ├── virtualdriver_desc.cc │ │ │ ├── virtualdriver_java.cc │ │ │ └── virtualdriver_java.h │ │ ├── python/ │ │ │ ├── CMakeLists.txt │ │ │ ├── virtualdriver_desc.cc │ │ │ ├── virtualdriver_python.cc │ │ │ └── virtualdriver_python.h │ │ └── yolobox/ │ │ ├── CMakeLists.txt │ │ ├── virtualdriver_desc.cc │ │ ├── virtualdriver_yolobox.cc │ │ └── virtualdriver_yolobox.h │ ├── java/ │ │ ├── CMakeLists.txt │ │ ├── jni/ │ │ │ ├── CMakeLists.txt │ │ │ ├── jni_export/ │ │ │ │ ├── buffer.cc │ │ │ │ ├── bufferlist.cc │ │ │ │ ├── configuration.cc │ │ │ │ ├── data_meta.cc │ │ │ │ ├── datacontext.cc │ │ │ │ ├── device.cc │ │ │ │ ├── external_data_map.cc │ │ │ │ ├── external_data_select.cc │ │ │ │ ├── flow.cc │ │ │ │ ├── flow_streamio.cc │ │ │ │ ├── flowunit.cc │ │ │ │ ├── flowunit_builder.cc │ │ │ │ ├── flowunit_desc.cc │ │ │ │ ├── flowunit_error.cc │ │ │ │ ├── flowunit_event.cc │ │ │ │ ├── flowunit_input.cc │ │ │ │ ├── flowunit_output.cc │ │ │ │ ├── log.cc │ │ │ │ ├── native_object.cc │ │ │ │ ├── session_context.cc │ │ │ │ └── status.cc │ │ │ ├── jni_native_object.cc │ │ │ ├── jni_native_object.h │ │ │ ├── log.cc │ │ │ ├── log.h │ │ │ ├── modelbox_jni.cc │ │ │ ├── modelbox_jni.h │ │ │ ├── scoped_jvm.cc │ │ │ ├── scoped_jvm.h │ │ │ ├── throw.cc │ │ │ ├── throw.h │ │ │ ├── utils.cc │ │ │ └── utils.h │ │ ├── pom.xml │ │ └── src/ │ │ ├── main/ │ │ │ └── java/ │ │ │ └── com/ │ │ │ └── modelbox/ │ │ │ ├── Buffer.java │ │ │ ├── BufferList.java │ │ │ ├── Configuration.java │ │ │ ├── DataContext.java │ │ │ ├── DataMeta.java │ │ │ ├── Device.java │ │ │ ├── ExternalDataMap.java │ │ │ ├── ExternalDataSelect.java │ │ │ ├── Flow.java │ │ │ ├── FlowStreamIO.java │ │ │ ├── FlowUnit.java │ │ │ ├── FlowUnitBuilder.java │ │ │ ├── FlowUnitDesc.java │ │ │ ├── FlowUnitError.java │ │ │ ├── FlowUnitEvent.java │ │ │ ├── FlowUnitInput.java │ │ │ ├── FlowUnitOutput.java │ │ │ ├── Log.java │ │ │ ├── ModelBox.java │ │ │ ├── ModelBoxException.java │ │ │ ├── NativeObject.java │ │ │ ├── SessionContext.java │ │ │ ├── StatisticsItem.java │ │ │ ├── Status.java │ │ │ └── StatusCode.java │ │ └── test/ │ │ └── java/ │ │ └── com/ │ │ └── modelbox/ │ │ ├── ModelBoxConfigurationTest.java │ │ ├── ModelBoxFlowTest.java │ │ ├── ModelBoxLogTest.java │ │ ├── ModelBoxMiscTest.java │ │ ├── ModelBoxStatusTest.java │ │ ├── ModelboxBufferTest.java │ │ ├── TestConfig.java │ │ └── TestConfig.json.in │ ├── libmodelbox/ │ │ ├── CMakeLists.txt │ │ ├── base/ │ │ │ ├── CMakeLists.txt │ │ │ ├── arch/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── android/ │ │ │ │ │ ├── base64_simd.cc │ │ │ │ │ ├── stats.cc │ │ │ │ │ └── stats.h │ │ │ │ └── linux/ │ │ │ │ ├── aarch64/ │ │ │ │ │ └── base64_simd.cc │ │ │ │ ├── default/ │ │ │ │ │ └── default.cc │ │ │ │ ├── stats.cc │ │ │ │ ├── stats.h │ │ │ │ └── x86_64/ │ │ │ │ └── base64_simd.cc │ │ │ ├── config/ │ │ │ │ └── configuration.cc │ │ │ ├── device/ │ │ │ │ ├── device.cc │ │ │ │ ├── device_factory.cc │ │ │ │ ├── device_manager.cc │ │ │ │ └── device_memory.cc │ │ │ ├── drivers/ │ │ │ │ ├── driver.cc │ │ │ │ ├── driver_utils.cc │ │ │ │ ├── register_flowunit.cc │ │ │ │ └── virtual_driver.cc │ │ │ ├── graph_manager/ │ │ │ │ └── graph_manager.cc │ │ │ ├── include/ │ │ │ │ └── modelbox/ │ │ │ │ └── base/ │ │ │ │ ├── any.h │ │ │ │ ├── base64_simd.h │ │ │ │ ├── blocking_queue.h │ │ │ │ ├── collector.h │ │ │ │ ├── configuration.h │ │ │ │ ├── crypto.h │ │ │ │ ├── device.h │ │ │ │ ├── device_memory.h │ │ │ │ ├── driver.h │ │ │ │ ├── driver_api_helper.h │ │ │ │ ├── driver_utils.h │ │ │ │ ├── error_info.h │ │ │ │ ├── executor.h │ │ │ │ ├── graph_manager.h │ │ │ │ ├── list.h │ │ │ │ ├── log.h │ │ │ │ ├── memory_pool.h │ │ │ │ ├── memory_statistic.h │ │ │ │ ├── os.h │ │ │ │ ├── popen.h │ │ │ │ ├── refcache.h │ │ │ │ ├── register_flowunit.h │ │ │ │ ├── slab.h │ │ │ │ ├── status.h │ │ │ │ ├── thread_pool.h │ │ │ │ ├── timer.h │ │ │ │ ├── utils.h │ │ │ │ └── uuid.h │ │ │ ├── log/ │ │ │ │ └── log.cc │ │ │ ├── mem/ │ │ │ │ ├── memory_pool.cc │ │ │ │ └── slab.cc │ │ │ ├── status/ │ │ │ │ └── status.cc │ │ │ ├── thread_pool/ │ │ │ │ └── thread_pool.cc │ │ │ ├── timer/ │ │ │ │ └── timer.cc │ │ │ └── utils/ │ │ │ ├── any.cc │ │ │ ├── crypto.cc │ │ │ ├── json_toml_convert.cc │ │ │ ├── popen.cc │ │ │ ├── refcache.cc │ │ │ ├── utils.cc │ │ │ └── uuid.cc │ │ ├── config.h.in │ │ ├── engine/ │ │ │ ├── api/ │ │ │ │ ├── flow_graph_desc.cc │ │ │ │ ├── flow_node_desc.cc │ │ │ │ └── flowunit_builder.cc │ │ │ ├── buffer.cc │ │ │ ├── buffer_index_info.cc │ │ │ ├── buffer_list.cc │ │ │ ├── buffer_type.cc │ │ │ ├── common/ │ │ │ │ ├── data_hub.cc │ │ │ │ └── data_hub.h │ │ │ ├── data_context.cc │ │ │ ├── dynamic_graph/ │ │ │ │ ├── context.cc │ │ │ │ ├── data_handler.cc │ │ │ │ └── modelbox_engine.cc │ │ │ ├── error.cc │ │ │ ├── external_data_map.cc │ │ │ ├── external_data_simple.cc │ │ │ ├── flow_stream_io.cc │ │ │ ├── flowunit.cc │ │ │ ├── flowunit_balancer.cc │ │ │ ├── flowunit_data_executor.cc │ │ │ ├── flowunit_group.cc │ │ │ ├── flowunit_manager.cc │ │ │ ├── graph/ │ │ │ │ └── graph_checker.cc │ │ │ ├── graph.cc │ │ │ ├── inner_event.cc │ │ │ ├── match_stream.cc │ │ │ ├── node.cc │ │ │ ├── port.cc │ │ │ ├── scheduler/ │ │ │ │ ├── flow_scheduler.cc │ │ │ │ └── flow_scheduler.h │ │ │ ├── session.cc │ │ │ ├── session_context.cc │ │ │ ├── single_node.cc │ │ │ ├── stream.cc │ │ │ ├── tensor.cc │ │ │ ├── tensor_list.cc │ │ │ ├── type.cc │ │ │ └── virtual_node.cc │ │ ├── flow/ │ │ │ └── flow.cc │ │ ├── include/ │ │ │ └── modelbox/ │ │ │ ├── buffer.h │ │ │ ├── buffer_index_info.h │ │ │ ├── buffer_list.h │ │ │ ├── buffer_type.h │ │ │ ├── context.h │ │ │ ├── data_context.h │ │ │ ├── data_handler.h │ │ │ ├── data_source_parser_plugin.h │ │ │ ├── error.h │ │ │ ├── external_data_map.h │ │ │ ├── external_data_simple.h │ │ │ ├── flow.h │ │ │ ├── flow_graph_desc.h │ │ │ ├── flow_node_desc.h │ │ │ ├── flow_stream_io.h │ │ │ ├── flowunit.h │ │ │ ├── flowunit_api_helper.h │ │ │ ├── flowunit_balancer.h │ │ │ ├── flowunit_builder.h │ │ │ ├── flowunit_data_executor.h │ │ │ ├── flowunit_group.h │ │ │ ├── graph.h │ │ │ ├── graph_checker.h │ │ │ ├── iam_auth.h │ │ │ ├── inner_event.h │ │ │ ├── match_stream.h │ │ │ ├── modelbox.h │ │ │ ├── modelbox_engine.h │ │ │ ├── node.h │ │ │ ├── obs_client.h │ │ │ ├── output_broker_plugin.h │ │ │ ├── port.h │ │ │ ├── profiler.h │ │ │ ├── scheduler.h │ │ │ ├── session.h │ │ │ ├── session_context.h │ │ │ ├── single_node.h │ │ │ ├── statistics.h │ │ │ ├── stream.h │ │ │ ├── tensor.h │ │ │ ├── tensor_list.h │ │ │ ├── token_header.h │ │ │ ├── type.h │ │ │ └── virtual_node.h │ │ ├── libmodelbox.pc.in │ │ └── profiling/ │ │ ├── performance.cc │ │ ├── profiler.cc │ │ ├── statistics.cc │ │ └── trace.cc │ ├── modelbox/ │ │ ├── CMakeLists.txt │ │ ├── common/ │ │ │ ├── CMakeLists.txt │ │ │ ├── command.cc │ │ │ ├── config.cc │ │ │ ├── control_msg.cc │ │ │ ├── flowuint_info.cc │ │ │ ├── include/ │ │ │ │ └── modelbox/ │ │ │ │ └── common/ │ │ │ │ ├── command.h │ │ │ │ ├── config.h │ │ │ │ ├── control_msg.h │ │ │ │ ├── flowunit_info.h │ │ │ │ ├── log.h │ │ │ │ └── utils.h │ │ │ ├── log.cc │ │ │ └── utils.cc │ │ ├── manager/ │ │ │ ├── CMakeLists.txt │ │ │ ├── etc/ │ │ │ │ ├── init.d/ │ │ │ │ │ └── modelbox-manager.in │ │ │ │ ├── manager-opts │ │ │ │ ├── manager.conf.in │ │ │ │ └── modelbox-manager.service.in │ │ │ ├── include/ │ │ │ │ └── modelbox/ │ │ │ │ └── manager/ │ │ │ │ └── manager_monitor_client.h │ │ │ └── src/ │ │ │ ├── common.c │ │ │ ├── common.h │ │ │ ├── conf.c │ │ │ ├── conf.h │ │ │ ├── hashtable.h │ │ │ ├── list.h │ │ │ ├── log.c │ │ │ ├── log.h │ │ │ ├── manager.c │ │ │ ├── manager.h │ │ │ ├── manager_common.h │ │ │ ├── manager_conf.c │ │ │ ├── manager_conf.h │ │ │ ├── manager_monitor.c │ │ │ ├── manager_monitor.h │ │ │ ├── manager_monitor_client.c │ │ │ ├── util.c │ │ │ └── util.h │ │ ├── server/ │ │ │ ├── CMakeLists.txt │ │ │ ├── bin/ │ │ │ │ └── develop │ │ │ ├── config.cc │ │ │ ├── config.h │ │ │ ├── control-command.cc │ │ │ ├── control-command.h │ │ │ ├── control.cc │ │ │ ├── control.h │ │ │ ├── etc/ │ │ │ │ ├── init.d/ │ │ │ │ │ └── modelbox.in │ │ │ │ ├── modelbox-dev.conf.in │ │ │ │ ├── modelbox-opts │ │ │ │ ├── modelbox-template.conf.in │ │ │ │ ├── modelbox.conf.in │ │ │ │ └── modelbox.service.in │ │ │ ├── http_helper.cc │ │ │ ├── include/ │ │ │ │ └── modelbox/ │ │ │ │ └── server/ │ │ │ │ ├── http_helper.h │ │ │ │ ├── job.h │ │ │ │ ├── job_manager.h │ │ │ │ ├── plugin.h │ │ │ │ ├── statistics.h │ │ │ │ ├── task.h │ │ │ │ ├── task_manager.h │ │ │ │ ├── timer.h │ │ │ │ └── utils.h │ │ │ ├── job.cc │ │ │ ├── job_manager.cc │ │ │ ├── js_engine.cc │ │ │ ├── js_engine.h │ │ │ ├── main.cc │ │ │ ├── misc/ │ │ │ │ └── modelbox-server-cmd.json.in │ │ │ ├── plugin/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── editor/ │ │ │ │ │ ├── CMakeLists.txt │ │ │ │ │ ├── config.h.in │ │ │ │ │ ├── editor_plugin.cc │ │ │ │ │ └── editor_plugin.h │ │ │ │ └── tasks/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── modelbox_plugin.cc │ │ │ │ └── modelbox_plugin.h │ │ │ ├── plugin.cc │ │ │ ├── server.cc │ │ │ ├── server.h │ │ │ ├── server_plugin.cc │ │ │ ├── server_plugin.h │ │ │ ├── server_plugin_js.cc │ │ │ ├── task.cc │ │ │ ├── task_manager.cc │ │ │ ├── timer.cc │ │ │ └── utils.cc │ │ ├── serving/ │ │ │ ├── CMakeLists.txt │ │ │ ├── main.cc │ │ │ ├── serving.cc │ │ │ ├── serving.h │ │ │ └── test_file/ │ │ │ ├── custom_service.py.in │ │ │ ├── model.toml.in │ │ │ └── test_client.py.in │ │ └── tool/ │ │ ├── CMakeLists.txt │ │ ├── bin/ │ │ │ └── modelbox-python-debug │ │ ├── driver.cc │ │ ├── driver.h │ │ ├── external_command.cc │ │ ├── external_command.h │ │ ├── flow.cc │ │ ├── flow.h │ │ ├── help.cc │ │ ├── help.h │ │ ├── key.cc │ │ ├── key.h │ │ ├── log.h │ │ ├── main.cc │ │ ├── server_command.cc │ │ └── server_command.h │ └── python/ │ ├── CMakeLists.txt │ ├── MANIFEST.in │ ├── include/ │ │ └── modelbox/ │ │ └── python/ │ │ └── log.h │ ├── lib/ │ │ ├── log.cc │ │ └── modelbox.cc │ ├── modelbox/ │ │ └── __init__.py │ ├── setup.py.in │ └── test/ │ ├── __init__.py │ ├── op/ │ │ ├── op_args/ │ │ │ ├── modelbox.op_args.in │ │ │ └── op_args.py │ │ ├── op_brightness/ │ │ │ ├── modelbox.op_brightness.in │ │ │ └── op_brightness.py │ │ ├── op_buffer/ │ │ │ ├── modelbox.op_buffer.in │ │ │ └── op_buffer.py │ │ ├── op_image/ │ │ │ ├── modelbox.op_image.in │ │ │ └── op_image.py │ │ ├── op_resize/ │ │ │ ├── modelbox.op_resize.in │ │ │ └── op_resize.py │ │ └── op_show/ │ │ ├── modelbox.op_show.in │ │ └── op_show.py │ ├── test_api_mode.py │ ├── test_buffer.py │ ├── test_config.py.in │ ├── test_configuration.py │ ├── test_dynamic_graph.py │ ├── test_flow.py │ ├── test_log.py │ ├── test_model.py │ ├── test_modelbox.py │ ├── test_session.py │ └── test_status.py ├── test/ │ ├── CMakeLists.txt │ ├── assets/ │ │ ├── ascend_crop_yuv │ │ ├── ascend_padding_yuv │ │ ├── ascend_resize_yuv │ │ ├── atc_inference/ │ │ │ ├── 2d_2048_w_stage1_pad0.om │ │ │ └── 2d_2048_w_stage1_pad0_en.om │ │ ├── auth/ │ │ │ └── auth_info.toml │ │ ├── mindspore_inference/ │ │ │ ├── tensor_add.mindir │ │ │ ├── tensor_add.ms │ │ │ ├── tensor_add_en.mindir │ │ │ └── tensor_add_en.ms │ │ ├── obs/ │ │ │ ├── obs_download.toml │ │ │ └── obs_upload.toml │ │ ├── resize_cpu/ │ │ │ └── virtual_python_test.toml │ │ ├── rockchip_112x110_bgr │ │ ├── rockchip_160x120_bgr │ │ ├── rockchip_640x480_bgr │ │ ├── rockchip_crop_bgr │ │ ├── rockchip_decoder_test_bgr │ │ ├── tensorflow/ │ │ │ ├── 1.13.1/ │ │ │ │ ├── tensorflow_pb/ │ │ │ │ │ └── frozen_model.pb │ │ │ │ └── tensorflow_save_model/ │ │ │ │ ├── saved_model.pb │ │ │ │ └── variables/ │ │ │ │ ├── variables.data-00000-of-00001 │ │ │ │ └── variables.index │ │ │ ├── 1.15.0/ │ │ │ │ ├── tensorflow_pb/ │ │ │ │ │ ├── frozen_model.pb │ │ │ │ │ └── frozen_model_en.pb │ │ │ │ └── tensorflow_save_model/ │ │ │ │ ├── saved_model.pb │ │ │ │ └── variables/ │ │ │ │ ├── variables.data-00000-of-00001 │ │ │ │ └── variables.index │ │ │ └── 2.6.0-dev20210809/ │ │ │ ├── tensorflow_pb/ │ │ │ │ └── frozen_model.pb │ │ │ └── tensorflow_save_model/ │ │ │ ├── saved_model.pb │ │ │ └── variables/ │ │ │ ├── variables.data-00000-of-00001 │ │ │ └── variables.index │ │ ├── tensorrt/ │ │ │ ├── model.onnx │ │ │ └── model_en.onnx │ │ ├── test_inference/ │ │ │ └── virtual_model_test.toml │ │ ├── test_model/ │ │ │ └── test_dynamic.onnx │ │ ├── torch/ │ │ │ ├── pytorch_example.pt │ │ │ ├── pytorch_example_2.pt │ │ │ └── pytorch_example_en.pt │ │ ├── video/ │ │ │ ├── rgb_460800_480x320_a.data │ │ │ └── rgb_460800_480x320_b.data │ │ └── yolobox/ │ │ ├── data_144000_0 │ │ └── data_36000_0 │ ├── drivers/ │ │ ├── CMakeLists.txt │ │ ├── common/ │ │ │ ├── mock_cert.cc │ │ │ ├── mock_cert.h │ │ │ ├── tensorflow_inference/ │ │ │ │ ├── tensorflow_inference_mock.cc │ │ │ │ └── tensorflow_inference_mock.h │ │ │ └── video_decoder/ │ │ │ ├── video_decoder_mock.cc │ │ │ └── video_decoder_mock.h │ │ ├── driver_flow_test.cc │ │ └── driver_flow_test.h │ ├── function/ │ │ ├── CMakeLists.txt │ │ ├── api_test.cc │ │ ├── car_detection/ │ │ │ ├── CMakeLists.txt │ │ │ ├── car_flow.cc │ │ │ ├── car_flow.h │ │ │ └── car_flow_test.cc │ │ ├── demo_test.cc │ │ └── dynamic_graph_test.cc │ ├── manager/ │ │ ├── CMakeLists.txt │ │ ├── manager_test.cc │ │ └── test_main.cc │ ├── mock/ │ │ ├── CMakeLists.txt │ │ ├── drivers/ │ │ │ ├── CMakeLists.txt │ │ │ ├── device_mockdevice/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── device_mockdevice.cc │ │ │ │ ├── driver_desc.cc │ │ │ │ ├── driver_desc.h │ │ │ │ ├── include/ │ │ │ │ │ └── modelbox/ │ │ │ │ │ └── device/ │ │ │ │ │ └── mockdevice/ │ │ │ │ │ └── device_mockdevice.h │ │ │ │ └── libmodelbox-device-mockdevice.pc.in │ │ │ ├── flowunit_mockflowunit/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── flowunit_desc.cc │ │ │ │ ├── flowunit_desc.h │ │ │ │ ├── flowunit_mockflowunit.cc │ │ │ │ └── flowunit_mockflowunit.h │ │ │ ├── graph_conf_mockgraphconf/ │ │ │ │ ├── CMakeLists.txt │ │ │ │ ├── graph_conf_desc.cc │ │ │ │ ├── graph_conf_desc.h │ │ │ │ ├── graph_conf_mockgraphconf.cc │ │ │ │ └── graph_conf_mockgraphconf.h │ │ │ ├── mock_driver_ctl.cc │ │ │ └── mock_driver_ctl.h │ │ ├── flowunit/ │ │ │ ├── CMakeLists.txt │ │ │ └── passthrouth/ │ │ │ ├── CMakeLists.txt │ │ │ ├── passthrouth.cc │ │ │ └── passthrouth.h │ │ └── minimodelbox/ │ │ ├── CMakeLists.txt │ │ ├── mock_server.cc │ │ ├── mock_server.h │ │ ├── mock_tool.cc │ │ ├── mock_tool.h │ │ ├── mockflow.cc │ │ └── mockflow.h │ ├── test_config.h.in │ ├── test_main.cc │ └── unit/ │ ├── CMakeLists.txt │ ├── libmodelbox/ │ │ ├── base/ │ │ │ ├── blocking_queue_test.cc │ │ │ ├── configuration_test.cc │ │ │ ├── crypto_test.cc │ │ │ ├── device_test.cc │ │ │ ├── driver_test.cc │ │ │ ├── graph_manager_test.cc │ │ │ ├── list_test.cc │ │ │ ├── log_test.cc │ │ │ ├── memory_pool_test.cc │ │ │ ├── memory_statistic_test.cc │ │ │ ├── os_stats_test.cc │ │ │ ├── popen_test.cc │ │ │ ├── refcache_test.cc │ │ │ ├── slab_test.cc │ │ │ ├── status_test.cc │ │ │ ├── thread_pool_test.cc │ │ │ ├── timer_test.cc │ │ │ └── utils_test.cc │ │ ├── engine/ │ │ │ ├── buffer_index_info_test.cc │ │ │ ├── buffer_list_test.cc │ │ │ ├── buffer_test.cc │ │ │ ├── buffer_type_test.cc │ │ │ ├── data_context_test.cc │ │ │ ├── data_hub_test.cc │ │ │ ├── flow_graph_desc_test.cc │ │ │ ├── flow_scheduler_test.cc │ │ │ ├── flowunit_balancer_test.cc │ │ │ ├── flowunit_data_executor_test.cc │ │ │ ├── flowunit_group_test.cc │ │ │ ├── flowunit_test.cc │ │ │ ├── graph_checker_test.cc │ │ │ ├── graph_test.cc │ │ │ ├── match_stream_test.cc │ │ │ ├── node_test.cc │ │ │ ├── port_test.cc │ │ │ ├── session_test.cc │ │ │ ├── stream_test.cc │ │ │ ├── tensor_list_test.cc │ │ │ ├── type_test.cc │ │ │ └── virtual_node_test.cc │ │ ├── flow_test.cc │ │ └── profiling/ │ │ └── profiler_test.cc │ ├── modelbox/ │ │ ├── server_test.cc │ │ ├── serving_test.cc │ │ └── utils_test.cc │ └── plugin/ │ └── task_manger_test.cc └── thirdparty/ ├── CMake/ │ ├── APIGW_CPP_CMakeList.in │ ├── Demo_Files_CMakeList.in │ ├── Huawei_Secure_C_CMakeList.in │ ├── cpp_httplib_cmakelist.in │ ├── local-package.in │ ├── pre-download.in │ └── tlog_cmakelist.in └── CMakeLists.txt