gitextract_233_9gzq/ ├── .github/ │ ├── ISSUE_TEMPLATE/ │ │ ├── bug_report.yaml │ │ ├── documentation_improvement.yaml │ │ ├── enhancement.yaml │ │ └── feature_request.yaml │ ├── mergify.yml │ └── workflows/ │ ├── Nightly_CI_main.yaml │ ├── build_dev_python_package.yaml │ ├── publish_dev_package.yaml │ ├── publish_release_image.yaml │ ├── publish_release_package.yaml │ ├── pylint.yaml │ └── unit_test_main.yaml ├── .gitignore ├── LICENSE ├── MANIFEST.in ├── Makefile ├── OWNERS ├── README.md ├── cache_config_template.yml ├── codecov.yml ├── docs/ │ ├── .readthedocs.yaml │ ├── Makefile │ ├── _exts/ │ │ ├── docgen2.py │ │ └── index_con.py │ ├── _templates/ │ │ ├── author.html │ │ ├── copyright.html │ │ ├── function.rst │ │ └── index.rst │ ├── bootcamp/ │ │ ├── langchain/ │ │ │ ├── baby_agi.ipynb │ │ │ ├── index.rst │ │ │ ├── qa_generation.ipynb │ │ │ ├── question_answering.ipynb │ │ │ └── sqlite.ipynb │ │ ├── llama_index/ │ │ │ ├── index.rst │ │ │ └── webpage_qa.ipynb │ │ ├── openai/ │ │ │ ├── chat.ipynb │ │ │ ├── image_generation.ipynb │ │ │ ├── index.rst │ │ │ ├── language_translate.ipynb │ │ │ ├── speech_to_text.ipynb │ │ │ ├── sql_translate.ipynb │ │ │ └── tweet_classifier.ipynb │ │ ├── replicate/ │ │ │ ├── index.rst │ │ │ └── visual_question_answering.ipynb │ │ ├── streamlit/ │ │ │ ├── gptcache-streamlit-audio/ │ │ │ │ ├── .streamlit/ │ │ │ │ │ └── config.toml │ │ │ │ ├── README.md │ │ │ │ ├── audio.py │ │ │ │ └── requirements.txt │ │ │ └── gptcache-streamlit-image/ │ │ │ ├── README.md │ │ │ ├── imagen.py │ │ │ └── requirements.txt │ │ ├── temperature/ │ │ │ ├── chat.ipynb │ │ │ ├── create_image.ipynb │ │ │ └── index.rst │ │ └── vertex/ │ │ ├── index.rst │ │ └── vertexai_caching.ipynb │ ├── conf.py │ ├── configure_it.md │ ├── contributing.md │ ├── feature.md │ ├── horizontal-scaling-usage.md │ ├── index.rst │ ├── make.bat │ ├── references/ │ │ └── index.rst │ ├── release_note.md │ ├── requirements.txt │ ├── toc.bak │ └── usage.md ├── examples/ │ ├── README.md │ ├── adapter/ │ │ ├── api.py │ │ ├── langchain_llms.py │ │ └── openai_chatgpt.py │ ├── benchmark/ │ │ ├── benchmark_sqlite_faiss_onnx.py │ │ └── mock_data.json │ ├── context_process/ │ │ ├── selective_context.py │ │ └── summarization_context.py │ ├── data_manager/ │ │ ├── map_manager.py │ │ ├── scalar_store.py │ │ └── vector_store.py │ ├── embedding/ │ │ ├── default.py │ │ ├── onnx.py │ │ ├── paddlenlp.py │ │ └── random.py │ ├── eviction/ │ │ └── distributed_eviction.py │ ├── integrate/ │ │ ├── diffusers/ │ │ │ └── stable_diffusion.py │ │ ├── dolly/ │ │ │ └── basic_usage.py │ │ ├── langchain/ │ │ │ ├── langchain_llms_mock.py │ │ │ ├── langchain_prompt_openai.py │ │ │ ├── langchain_qa_chain.py │ │ │ └── langchain_similaritycache_openai.py │ │ ├── llama_cpp/ │ │ │ └── basic_usage.py │ │ ├── openai/ │ │ │ ├── basic_usage.py │ │ │ ├── create_image.py │ │ │ ├── qa.py │ │ │ ├── readme.py │ │ │ └── summarize.py │ │ ├── replicate/ │ │ │ └── vqa.py │ │ └── stability/ │ │ └── text_to_image.py │ ├── processor/ │ │ ├── llm_verifier_example.py │ │ └── temperature_example.py │ ├── session/ │ │ └── session.py │ ├── similarity_evaluation/ │ │ ├── exact_match.py │ │ ├── onnx.py │ │ ├── search_distance.py │ │ └── sequence_match.py │ └── vqa_demo.py ├── gptcache/ │ ├── __init__.py │ ├── adapter/ │ │ ├── __init__.py │ │ ├── adapter.py │ │ ├── api.py │ │ ├── base.py │ │ ├── diffusers.py │ │ ├── dolly.py │ │ ├── langchain_models.py │ │ ├── llama_cpp.py │ │ ├── minigpt4.py │ │ ├── openai.py │ │ ├── replicate.py │ │ └── stability_sdk.py │ ├── client.py │ ├── config.py │ ├── core.py │ ├── embedding/ │ │ ├── __init__.py │ │ ├── base.py │ │ ├── cohere.py │ │ ├── data2vec.py │ │ ├── fasttext.py │ │ ├── huggingface.py │ │ ├── langchain.py │ │ ├── onnx.py │ │ ├── openai.py │ │ ├── paddlenlp.py │ │ ├── rwkv.py │ │ ├── sbert.py │ │ ├── string.py │ │ ├── timm.py │ │ ├── uform.py │ │ └── vit.py │ ├── manager/ │ │ ├── __init__.py │ │ ├── data_manager.py │ │ ├── eviction/ │ │ │ ├── __init__.py │ │ │ ├── base.py │ │ │ ├── distributed_cache.py │ │ │ ├── manager.py │ │ │ ├── memory_cache.py │ │ │ └── redis_eviction.py │ │ ├── eviction_manager.py │ │ ├── factory.py │ │ ├── object_data/ │ │ │ ├── __init__.py │ │ │ ├── base.py │ │ │ ├── local_storage.py │ │ │ ├── manager.py │ │ │ └── s3_storage.py │ │ ├── scalar_data/ │ │ │ ├── __init__.py │ │ │ ├── base.py │ │ │ ├── dynamo_storage.py │ │ │ ├── manager.py │ │ │ ├── mongo.py │ │ │ ├── redis_storage.py │ │ │ └── sql_storage.py │ │ └── vector_data/ │ │ ├── __init__.py │ │ ├── base.py │ │ ├── chroma.py │ │ ├── docarray_index.py │ │ ├── faiss.py │ │ ├── hnswlib_store.py │ │ ├── manager.py │ │ ├── milvus.py │ │ ├── pgvector.py │ │ ├── qdrant.py │ │ ├── redis_vectorstore.py │ │ ├── usearch.py │ │ └── weaviate.py │ ├── processor/ │ │ ├── __init__.py │ │ ├── check_hit.py │ │ ├── context/ │ │ │ ├── __init__.py │ │ │ ├── concat_context.py │ │ │ ├── context.py │ │ │ ├── selective_context.py │ │ │ └── summarization_context.py │ │ ├── post.py │ │ └── pre.py │ ├── report.py │ ├── session.py │ ├── similarity_evaluation/ │ │ ├── __init__.py │ │ ├── cohere_rerank.py │ │ ├── distance.py │ │ ├── exact_match.py │ │ ├── kreciprocal.py │ │ ├── np.py │ │ ├── onnx.py │ │ ├── sbert_crossencoder.py │ │ ├── sequence_match.py │ │ ├── similarity_evaluation.py │ │ └── time.py │ └── utils/ │ ├── __init__.py │ ├── cache_func.py │ ├── dependency_control.py │ ├── error.py │ ├── lazy_import.py │ ├── log.py │ ├── response.py │ ├── softmax.py │ ├── time.py │ └── token.py ├── gptcache_server/ │ ├── __init__.py │ ├── dockerfiles/ │ │ └── Dockerfile │ └── server.py ├── pylint.conf ├── requirements.txt ├── scripts/ │ ├── manage_conda_env.sh │ └── remove_example_cache.sh ├── setup.py └── tests/ ├── integration_tests/ │ ├── base/ │ │ └── client_base.py │ ├── common/ │ │ ├── common_func.py │ │ └── common_type.py │ ├── config/ │ │ └── log_config.py │ ├── examples/ │ │ ├── map/ │ │ │ └── test_example_map.py │ │ ├── sqlite_faiss_mock/ │ │ │ └── test_example_sqlite_faiss.py │ │ └── sqlite_faiss_onnx/ │ │ └── test_example_sqlite_faiss_onnx.py │ ├── processor/ │ │ └── pre/ │ │ └── test_pre_without_prompt.py │ ├── test_redis_onnx.py │ ├── test_sqlite_faiss_onnx.py │ ├── test_sqlite_milvus_sbert.py │ └── utils/ │ └── util_log.py ├── pytest.ini ├── requirements.txt └── unit_tests/ ├── adapter/ │ ├── test_adapter.py │ ├── test_api.py │ ├── test_diffusers.py │ ├── test_dolly.py │ ├── test_langchain_models.py │ ├── test_llama_cpp.py │ ├── test_openai.py │ ├── test_replicate.py │ └── test_stability.py ├── embedding/ │ ├── test_cohere.py │ ├── test_data2vec.py │ ├── test_embedding_openai.py │ ├── test_embedding_string.py │ ├── test_fasttext.py │ ├── test_huggingface.py │ ├── test_langchain.py │ ├── test_onnx.py │ ├── test_paddlenlp.py │ ├── test_rwkv.py │ ├── test_sbert.py │ ├── test_timm.py │ ├── test_uform.py │ └── test_vit.py ├── eviction/ │ ├── test_distributed_cache.py │ └── test_memory_cache.py ├── manager/ │ ├── test_base.py │ ├── test_chromadb.py │ ├── test_dynamo_storage.py │ ├── test_eviction.py │ ├── test_factory.py │ ├── test_local_index.py │ ├── test_map.py │ ├── test_milvusdb.py │ ├── test_mongo.py │ ├── test_object_storage.py │ ├── test_pgvector.py │ ├── test_qdrant.py │ ├── test_redis.py │ ├── test_redis_cache_storage.py │ ├── test_sql_scalar.py │ ├── test_usearch.py │ └── test_weaviate.py ├── processor/ │ ├── test_concat_context.py │ ├── test_context.py │ ├── test_post.py │ ├── test_pre.py │ ├── test_selective_context.py │ └── test_summarize_context.py ├── similarity_evaluation/ │ ├── test_cohere_rerank.py │ ├── test_evaluation_kreciprocal.py │ ├── test_evaluation_onnx.py │ ├── test_evaluation_sbert.py │ ├── test_evaluation_sequence.py │ ├── test_evaluation_string.py │ ├── test_evalution_time.py │ ├── test_np.py │ └── test_simple.py ├── test_client.py ├── test_core.py ├── test_session.py └── utils/ ├── test_error.py ├── test_log.py └── test_response.py