gitextract_8_ebrzfj/ ├── .gitattributes ├── .github/ │ ├── FUNDING.yml │ └── ISSUE_TEMPLATE/ │ ├── bug-found.md │ ├── feature-request.md │ └── help---support-request.md ├── .gitignore ├── .vscode/ │ ├── extensions.json │ ├── launch.json │ ├── settings.json │ └── tasks.json ├── ARM Templates/ │ ├── Data Factory/ │ │ ├── v1.0 Export.json │ │ ├── v1.1 Export.json │ │ ├── v1.2 Export.json │ │ ├── v1.3 Export.json │ │ ├── v1.4 Export.json │ │ ├── v1.5 Export.json │ │ ├── v1.6 Export.json │ │ ├── v1.7 Export.json │ │ ├── v1.8 Export.json │ │ ├── v1.8.3 Export.json │ │ ├── v1.8.5 Export.json │ │ ├── v1.8.6 Export.json │ │ ├── v1.9 Export.json │ │ ├── v1.9.1 Export.json │ │ ├── v1.9.2 Export.json │ │ └── v2.0 Export.json │ ├── Functions App/ │ │ └── v1.6 Export.json │ ├── SQL Database/ │ │ └── v1.6 Export.json │ └── Synapse/ │ └── v2.0 Export.json ├── CODE_OF_CONDUCT.md ├── CONTRIBUTING.md ├── DataFactory/ │ ├── dataset/ │ │ └── GetSetMetadata.json │ ├── factory/ │ │ └── FrameworkFactory.json │ ├── integrationRuntime/ │ │ └── AzureIR-UKSouth.json │ ├── linkedService/ │ │ ├── FrameworkFunctions.json │ │ ├── Keys.json │ │ └── SupportDatabase.json │ ├── pipeline/ │ │ ├── 01-Grandparent.json │ │ ├── 02-Parent.json │ │ ├── 03-Child.json │ │ ├── 04-Infant.json │ │ ├── Check For Running Pipeline.json │ │ ├── Email Sender.json │ │ ├── Intentional Error.json │ │ ├── Throw Exception.json │ │ ├── Wait 1.json │ │ ├── Wait 10.json │ │ ├── Wait 2.json │ │ ├── Wait 3.json │ │ ├── Wait 4.json │ │ ├── Wait 5.json │ │ ├── Wait 6.json │ │ ├── Wait 7.json │ │ ├── Wait 8.json │ │ └── Wait 9.json │ └── trigger/ │ └── FunctionalTestingTrigger.json ├── DeploymentTools/ │ ├── DataFactory/ │ │ ├── DeployProcFwkComponents.ps1 │ │ ├── DeployProcFwkComponents_Old.ps1 │ │ ├── Get Pipelines.ps1 │ │ ├── GlobalVars.ps1 │ │ ├── PopulatePipelinesInDb.ps1 │ │ ├── ProcFwkComponents.json │ │ └── config-all.csv │ ├── Deployment.targets │ └── DeploymentTools.deployproj ├── FactoryTesting/ │ ├── FactoryTesting.csproj │ ├── Helpers/ │ │ ├── CoverageHelper.cs │ │ ├── DataFactoryHelper.cs │ │ ├── DatabaseHelper.cs │ │ ├── PipelineRunHelper.cs │ │ └── SettingsHelper.cs │ ├── Pipelines/ │ │ ├── 01-Grandparent/ │ │ │ ├── Given300WorkerPipelines.cs │ │ │ ├── Given600WorkerPipelineConcurrentBatches.cs │ │ │ ├── GivenOneWorkerPipeline.cs │ │ │ └── GrandparentHelper.cs │ │ ├── 02-Parent/ │ │ │ ├── Given20ConcurrentBatchesFor1000WorkerPipelines.cs │ │ │ ├── GivenAlreadyRunning.cs │ │ │ ├── GivenBatchExecutionsForConcurrentBatches.cs │ │ │ ├── GivenBatchExecutionsForConcurrentBatchesAlreadyRunning.cs │ │ │ ├── GivenBatchExecutionsForConcurrentBatchesWithSimpleFailureHandling.cs │ │ │ ├── GivenBatchExecutionsForConcurrentBatchesWithSimpleFailureHandlingAndRestart.cs │ │ │ ├── GivenBatchExecutionsForConcurrentBatchesWithSimpleFailureHandlingAndRestartOveride.cs │ │ │ ├── GivenBatchExecutionsForSingleBatch.cs │ │ │ ├── GivenCancelledWorkerAndRestart.cs │ │ │ ├── GivenCancelledWorkerInOneExecutionStage.cs │ │ │ ├── GivenCancelledWorkerThatBlocks.cs │ │ │ ├── GivenCancelledWorkerThatDoesntBlock.cs │ │ │ ├── GivenCleanUpForCancelledWorkerAndRestart.cs │ │ │ ├── GivenCleanUpForSuccessfulWorkersAndRestart.cs │ │ │ ├── GivenDependencyChainFailureHandling.cs │ │ │ ├── GivenDependencyChainFailureHandlingAndRestart.cs │ │ │ ├── GivenDisabledBatches.cs │ │ │ ├── GivenDisabledPipelines.cs │ │ │ ├── GivenDisabledStages.cs │ │ │ ├── GivenNoErrorsAndSPNStoredInDatabase.cs │ │ │ ├── GivenNoErrorsAndSPNStoredInKeyVault.cs │ │ │ ├── GivenNoFailureHandling.cs │ │ │ ├── GivenNoPipelineParameters.cs │ │ │ ├── GivenOneExecutionStage.cs │ │ │ ├── GivenSimpleFailureHandling.cs │ │ │ ├── GivenSimpleFailureHandlingAndRestart.cs │ │ │ ├── GivenSimpleFailureHandlingAndRestartOveride.cs │ │ │ └── ParentHelper.cs │ │ └── Utilities/ │ │ ├── GivenCheckForRunningPipeline.cs │ │ ├── GivenEmailSender.cs │ │ ├── GivenThrowException.cs │ │ └── UtilitiesHelper.cs │ ├── dev.runsettings │ ├── multi.runsettings │ └── test.runsettings ├── Functions/ │ ├── .vscode/ │ │ ├── extensions.json │ │ ├── launch.json │ │ ├── settings.json │ │ └── tasks.json │ ├── Functions/ │ │ ├── CancelPipeline.cs │ │ ├── CheckPipelineStatus.cs │ │ ├── ExecutePipeline.cs │ │ ├── GetActivityErrors.cs │ │ ├── SendEmail.cs │ │ └── ValidatePipeline.cs │ ├── Functions.csproj │ ├── Helpers/ │ │ ├── BodyReader.cs │ │ ├── InvalidRequestException.cs │ │ ├── KeyVaultClient.cs │ │ ├── PipelineRequest.cs │ │ ├── PipelineRunRequest.cs │ │ └── SMTPClient.cs │ ├── Properties/ │ │ └── ServiceDependencies/ │ │ ├── FrameworkSupportFunctions - Zip Deploy/ │ │ │ └── profile.arm.json │ │ └── FrameworkSupportFunctionsBig - Web Deploy/ │ │ └── profile.arm.json │ ├── Services/ │ │ ├── AzureDataFactoryService.cs │ │ ├── AzureSynapseService.cs │ │ ├── PipelineService.cs │ │ ├── PipelineServiceType.cs │ │ └── Returns/ │ │ ├── PipelineDescription.cs │ │ ├── PipelineErrorDetail.cs │ │ └── PipelineRunStatus.cs │ ├── host.json │ └── template_local.settings.json ├── Images/ │ └── procfwk Designs.vsdx ├── LICENSE ├── MetadataDB/ │ ├── MetadataDB.refactorlog │ ├── MetadataDB.sqlproj │ ├── Scripts/ │ │ ├── Alter Database Scale.sql │ │ ├── Handy Selects.sql │ │ ├── LogData/ │ │ │ ├── ErrorLogBackup.sql │ │ │ ├── ErrorLogRestore.sql │ │ │ ├── ExecutionLogBackup.sql │ │ │ └── ExecutionLogRestore.sql │ │ ├── Metadata/ │ │ │ ├── AlertOutcomes.sql │ │ │ ├── DeleteAll.sql │ │ │ ├── DropLegacyObjects.sql │ │ │ ├── DropLegacyTables.sql │ │ │ ├── Orchestrators.sql │ │ │ ├── PipelineDependencies.sql │ │ │ ├── PipelineParams.sql │ │ │ ├── Pipelines.sql │ │ │ ├── Properties.sql │ │ │ ├── RecipientAlertsLink.sql │ │ │ ├── Recipients.sql │ │ │ ├── ReplaceDataFactorys.sql │ │ │ ├── Stages.sql │ │ │ ├── TransferHelperObjects.sql │ │ │ └── TransferReportingObjects.sql │ │ ├── Script.PostDeployment.sql │ │ ├── Script.PreDeployment.sql │ │ └── Script.SetLocalAuthenticationDetails.sql │ ├── Security/ │ │ ├── procfwk.sql │ │ ├── procfwkHelpers.sql │ │ ├── procfwkReporting.sql │ │ ├── procfwkTesting.sql │ │ └── procfwkuser Role.sql │ ├── dbo/ │ │ ├── Stored Procedures/ │ │ │ ├── DemoModePrecursor.sql │ │ │ ├── ExampleCustomExecutionPrecursor.sql │ │ │ └── FailProcedure.sql │ │ └── Tables/ │ │ └── ServicePrincipals.sql │ ├── procfwk/ │ │ ├── Functions/ │ │ │ └── GetPropertyValueInternal.sql │ │ ├── Stored Procedures/ │ │ │ ├── BatchWrapper.sql │ │ │ ├── CheckForBlockedPipelines.sql │ │ │ ├── CheckForEmailAlerts.sql │ │ │ ├── CheckMetadataIntegrity.sql │ │ │ ├── CheckPreviousExeuction.sql │ │ │ ├── CreateNewExecution.sql │ │ │ ├── ExecutePrecursorProcedure.sql │ │ │ ├── ExecutionWrapper.sql │ │ │ ├── GetEmailAlertParts.sql │ │ │ ├── GetFrameworkOrchestratorDetails.sql │ │ │ ├── GetPipelineParameters.sql │ │ │ ├── GetPipelinesInStage.sql │ │ │ ├── GetPropertyValue.sql │ │ │ ├── GetStages.sql │ │ │ ├── GetWorkerAuthDetails.sql │ │ │ ├── GetWorkerDetailsWrapper.sql │ │ │ ├── GetWorkerPipelineDetails.sql │ │ │ ├── ResetExecution.sql │ │ │ ├── SetErrorLogDetails.sql │ │ │ ├── SetExecutionBlockDependants.sql │ │ │ ├── SetLogActivityFailed.sql │ │ │ ├── SetLogPipelineCancelled.sql │ │ │ ├── SetLogPipelineChecking.sql │ │ │ ├── SetLogPipelineFailed.sql │ │ │ ├── SetLogPipelineLastStatusCheck.sql │ │ │ ├── SetLogPipelineRunId.sql │ │ │ ├── SetLogPipelineRunning.sql │ │ │ ├── SetLogPipelineSuccess.sql │ │ │ ├── SetLogPipelineUnknown.sql │ │ │ ├── SetLogPipelineValidating.sql │ │ │ ├── SetLogStagePreparing.sql │ │ │ └── UpdateExecutionLog.sql │ │ ├── Synonyms/ │ │ │ ├── AddPipelineDependant.sql │ │ │ ├── AddProperty.sql │ │ │ ├── AddRecipientPipelineAlerts.sql │ │ │ ├── AddServicePrincipal.sql │ │ │ ├── AddServicePrincipalUrls.sql │ │ │ ├── AddServicePrincipalWrapper.sql │ │ │ ├── AverageStageDuration.sql │ │ │ ├── CheckForValidURL.sql │ │ │ ├── CheckStageAndPiplineIntegrity.sql │ │ │ ├── CompleteExecutionErrorLog.sql │ │ │ ├── CompleteExecutionLog.sql │ │ │ ├── CurrentExecutionSummary.sql │ │ │ ├── DataFactoryDetails.sql │ │ │ ├── DeleteRecipientAlerts.sql │ │ │ ├── DeleteServicePrincipal.sql │ │ │ ├── GetExecutionDetails.sql │ │ │ ├── LastExecution.sql │ │ │ ├── LastExecutionSummary.sql │ │ │ ├── PipelineDependencyChains.sql │ │ │ ├── PipelineProcesses.sql │ │ │ ├── ProcessingStageDetails.sql │ │ │ └── WorkerParallelismOverTime.sql │ │ ├── Tables/ │ │ │ ├── AlertOutcomes.sql │ │ │ ├── BatchExecution.sql │ │ │ ├── BatchStageLink.sql │ │ │ ├── Batches.sql │ │ │ ├── CurrentExecution.sql │ │ │ ├── ErrorLog.sql │ │ │ ├── ExecutionLog.sql │ │ │ ├── Orchestrators.sql │ │ │ ├── PipelineAlertLink.sql │ │ │ ├── PipelineAuthLink.sql │ │ │ ├── PipelineDependencies.sql │ │ │ ├── PipelineParameters.sql │ │ │ ├── Pipelines.sql │ │ │ ├── Properties.sql │ │ │ ├── Recipients.sql │ │ │ ├── Stages.sql │ │ │ ├── Subscriptions.sql │ │ │ └── Tenants.sql │ │ └── Views/ │ │ ├── CurrentProperties.sql │ │ ├── DataFactorys.sql │ │ └── PipelineParameterDataSizes.sql │ ├── procfwkHelpers/ │ │ ├── Functions/ │ │ │ └── CheckForValidURL.sql │ │ ├── Stored Procedures/ │ │ │ ├── AddPipelineDependant.sql │ │ │ ├── AddPipelineViaPowerShell.sql │ │ │ ├── AddProperty.sql │ │ │ ├── AddRecipientPipelineAlerts.sql │ │ │ ├── AddServicePrincipal.sql │ │ │ ├── AddServicePrincipalUrls.sql │ │ │ ├── AddServicePrincipalWrapper.sql │ │ │ ├── CheckStageAndPiplineIntegrity.sql │ │ │ ├── DeleteMetadataWithIntegrity.sql │ │ │ ├── DeleteMetadataWithoutIntegrity.sql │ │ │ ├── DeleteRecipientAlerts.sql │ │ │ ├── DeleteServicePrincipal.sql │ │ │ ├── GetExecutionDetails.sql │ │ │ ├── GetServicePrincipal.sql │ │ │ ├── SetDefaultAlertOutcomes.sql │ │ │ ├── SetDefaultBatchStageLink.sql │ │ │ ├── SetDefaultBatches.sql │ │ │ ├── SetDefaultOrchestrators.sql │ │ │ ├── SetDefaultPipelineDependants.sql │ │ │ ├── SetDefaultPipelineParameters.sql │ │ │ ├── SetDefaultPipelines.sql │ │ │ ├── SetDefaultProperties.sql │ │ │ ├── SetDefaultRecipientPipelineAlerts.sql │ │ │ ├── SetDefaultRecipients.sql │ │ │ ├── SetDefaultStages.sql │ │ │ ├── SetDefaultSubscription.sql │ │ │ └── SetDefaultTenant.sql │ │ └── Views/ │ │ └── PipelineDependencyChains.sql │ ├── procfwkReporting/ │ │ └── Views/ │ │ ├── AverageStageDuration.sql │ │ ├── CompleteExecutionErrorLog.sql │ │ ├── CompleteExecutionLog.sql │ │ ├── CurrentExecutionSummary.sql │ │ ├── LastExecution.sql │ │ ├── LastExecutionSummary.sql │ │ └── WorkerParallelismOverTime.sql │ └── procfwkTesting/ │ └── Stored Procedures/ │ ├── Add20BatchesFor1000Workers.sql │ ├── Add300WorkerPipelineBatches.sql │ ├── Add300WorkerPipelines.sql │ ├── CleanUpMetadata.sql │ ├── GetRunIdWhenAvailable.sql │ └── ResetMetadata.sql ├── MetadataDBTests/ │ ├── MetadataDBTests.sqlproj │ ├── Scripts/ │ │ ├── Script.PostDeployment.sql │ │ └── Script.PreDeployment.sql │ ├── _TestClasses/ │ │ ├── procfwk_GetPropertyValue.sql │ │ └── procfwk_GetPropertyValueInternal.sql │ ├── procfwk_GetPropertyValue/ │ │ ├── setup.sql │ │ ├── test WHEN property does not exist THEN error raised.sql │ │ ├── test WHEN property exists THEN property value returned.sql │ │ ├── test WHEN property invalidated THEN error raised.sql │ │ └── test WHEN property name is null THEN error raised.sql │ ├── procfwk_GetPropertyValueInternal/ │ │ ├── test WHEN property does not exist THEN empty string returned.sql │ │ ├── test WHEN property exists THEN property value returned.sql │ │ └── test WHEN property name is null THEN empty string returned.sql │ └── tSQLt.dacpac ├── Notebooks/ │ ├── Databricks - Throw Exception.scala │ └── Metadata Guide and Handy Code Snippets.ipynb ├── ProcessingFramework.sln ├── README.md ├── Reporting/ │ ├── PowerBI/ │ │ ├── Executions Overview.pbit │ │ └── Executions Overview.pbix │ └── Scoping-Template-LDI-Blank.docx └── Synapse/ ├── dataflow/ │ └── MDF _Order_Count.json ├── dataset/ │ └── GetSetMetadata.json ├── factory/ │ └── FrameworkFactory.json ├── integrationRuntime/ │ └── AutoResolveIntegrationRuntime.json ├── linkedService/ │ ├── FrameworkFunctions.json │ ├── Keys.json │ ├── SupportDatabase.json │ ├── covid-tracking.json │ ├── procfwkforsynapse-WorkspaceDefaultSqlServer.json │ └── procfwkforsynapse-WorkspaceDefaultStorage.json ├── notebook/ │ └── Getting Started with Delta Lake.json ├── pipeline/ │ ├── 01-Grandparent.json │ ├── 02-Parent.json │ ├── 03-Child.json │ ├── 04-Infant.json │ ├── Check For Running Pipeline.json │ ├── Email Sender.json │ ├── Intentional Error.json │ ├── Throw Exception.json │ ├── Wait 1.json │ ├── Wait 10.json │ ├── Wait 2.json │ ├── Wait 3.json │ ├── Wait 4.json │ ├── Wait 5.json │ ├── Wait 6.json │ ├── Wait 7.json │ ├── Wait 8.json │ └── Wait 9.json └── trigger/ └── FunctionalTestingTrigger.json