gitextract_7xv872_6/ ├── .github/ │ ├── ISSUE_TEMPLATE/ │ │ ├── bug_report.md │ │ ├── config.yml │ │ ├── documentation-request.md │ │ └── feature_request.md │ └── PULL_REQUEST_TEMPLATE.md ├── .gitignore ├── .jshintrc ├── .pylintrc ├── CHANGELOG.md ├── CODE_OF_CONDUCT.md ├── CONTRIBUTING.md ├── LICENSE ├── NOTICE ├── README.md ├── VERSION ├── buildspec.yml ├── docker/ │ ├── 1.11/ │ │ ├── Dockerfile.cpu │ │ ├── Dockerfile.eia │ │ └── Dockerfile.gpu │ ├── 1.12/ │ │ ├── Dockerfile.cpu │ │ ├── Dockerfile.eia │ │ └── Dockerfile.gpu │ ├── 1.13/ │ │ ├── Dockerfile.cpu │ │ ├── Dockerfile.eia │ │ └── Dockerfile.gpu │ ├── 1.14/ │ │ ├── Dockerfile.cpu │ │ ├── Dockerfile.eia │ │ └── Dockerfile.gpu │ ├── 1.15/ │ │ ├── Dockerfile.cpu │ │ ├── Dockerfile.eia │ │ └── Dockerfile.gpu │ ├── 2.0/ │ │ ├── Dockerfile.cpu │ │ ├── Dockerfile.eia │ │ └── Dockerfile.gpu │ ├── 2.1/ │ │ ├── Dockerfile.cpu │ │ └── Dockerfile.gpu │ ├── __init__.py │ └── build_artifacts/ │ ├── __init__.py │ ├── deep_learning_container.py │ ├── dockerd-entrypoint.py │ └── sagemaker/ │ ├── __init__.py │ ├── multi_model_utils.py │ ├── nginx.conf.template │ ├── python_service.py │ ├── serve │ ├── serve.py │ ├── tensorflowServing.js │ └── tfs_utils.py ├── scripts/ │ ├── build-all.sh │ ├── build.sh │ ├── curl.sh │ ├── publish-all.sh │ ├── publish.sh │ ├── shared.sh │ ├── start.sh │ └── stop.sh ├── test/ │ ├── conftest.py │ ├── data/ │ │ └── batch.csv │ ├── integration/ │ │ ├── local/ │ │ │ ├── conftest.py │ │ │ ├── multi_model_endpoint_test_utils.py │ │ │ ├── test_container.py │ │ │ ├── test_multi_model_endpoint.py │ │ │ ├── test_multi_tfs.py │ │ │ ├── test_nginx_config.py │ │ │ ├── test_pre_post_processing.py │ │ │ ├── test_pre_post_processing_mme.py │ │ │ └── test_tfs_batching.py │ │ └── sagemaker/ │ │ ├── conftest.py │ │ ├── test_ei.py │ │ ├── test_tfs.py │ │ └── util.py │ ├── perf/ │ │ ├── ab.sh │ │ ├── create-endpoint.sh │ │ ├── create-model.sh │ │ ├── data_generator.py │ │ ├── delete-endpoint.sh │ │ ├── ec2-perftest.sh │ │ └── perftest_endpoint.py │ ├── resources/ │ │ ├── examples/ │ │ │ ├── test1/ │ │ │ │ └── inference.py │ │ │ ├── test2/ │ │ │ │ └── inference.py │ │ │ ├── test3/ │ │ │ │ ├── inference.py │ │ │ │ └── requirements.txt │ │ │ ├── test4/ │ │ │ │ ├── inference.py │ │ │ │ └── lib/ │ │ │ │ └── dummy_module/ │ │ │ │ └── __init__.py │ │ │ └── test5/ │ │ │ ├── inference.py │ │ │ ├── lib/ │ │ │ │ └── dummy_module/ │ │ │ │ └── __init__.py │ │ │ └── requirements.txt │ │ ├── inputs/ │ │ │ ├── test-cifar.json │ │ │ ├── test-gcloud.jsons │ │ │ ├── test-generic.json │ │ │ ├── test-large.csv │ │ │ ├── test.csv │ │ │ └── test.json │ │ ├── mme/ │ │ │ ├── cifar/ │ │ │ │ └── 1540855709/ │ │ │ │ ├── saved_model.pb │ │ │ │ └── variables/ │ │ │ │ ├── variables.data-00000-of-00001 │ │ │ │ └── variables.index │ │ │ ├── half_plus_three/ │ │ │ │ ├── 00000123/ │ │ │ │ │ ├── assets/ │ │ │ │ │ │ └── foo.txt │ │ │ │ │ ├── saved_model.pb │ │ │ │ │ └── variables/ │ │ │ │ │ ├── variables.data-00000-of-00001 │ │ │ │ │ └── variables.index │ │ │ │ └── 00000124/ │ │ │ │ ├── assets/ │ │ │ │ │ └── foo.txt │ │ │ │ ├── saved_model.pb │ │ │ │ └── variables/ │ │ │ │ ├── variables.data-00000-of-00001 │ │ │ │ └── variables.index │ │ │ ├── half_plus_two/ │ │ │ │ └── 00000123/ │ │ │ │ ├── saved_model.pb │ │ │ │ └── variables/ │ │ │ │ ├── variables.data-00000-of-00001 │ │ │ │ └── variables.index │ │ │ └── invalid_version/ │ │ │ └── abcde/ │ │ │ └── dummy.txt │ │ ├── mme_universal_script/ │ │ │ ├── code/ │ │ │ │ ├── inference.py │ │ │ │ └── requirements.txt │ │ │ └── half_plus_three/ │ │ │ └── model/ │ │ │ └── half_plus_three/ │ │ │ ├── 00000123/ │ │ │ │ ├── assets/ │ │ │ │ │ └── foo.txt │ │ │ │ ├── saved_model.pb │ │ │ │ └── variables/ │ │ │ │ ├── variables.data-00000-of-00001 │ │ │ │ └── variables.index │ │ │ └── 00000124/ │ │ │ ├── assets/ │ │ │ │ └── foo.txt │ │ │ ├── saved_model.pb │ │ │ └── variables/ │ │ │ ├── variables.data-00000-of-00001 │ │ │ └── variables.index │ │ └── models/ │ │ └── half_plus_three/ │ │ ├── .00000111/ │ │ │ └── .hidden_file │ │ ├── 00000123/ │ │ │ ├── assets/ │ │ │ │ └── foo.txt │ │ │ ├── saved_model.pb │ │ │ └── variables/ │ │ │ ├── variables.data-00000-of-00001 │ │ │ └── variables.index │ │ └── 00000124/ │ │ ├── assets/ │ │ │ └── foo.txt │ │ ├── saved_model.pb │ │ └── variables/ │ │ ├── variables.data-00000-of-00001 │ │ └── variables.index │ └── unit/ │ ├── test_deep_learning_container.py │ └── test_proxy_client.py └── tox.ini