Limitations du connecteur Anysphere Audit Logs

info

Bêta

Cette fonctionnalité est en version Bêta. Les administrateurs du workspace peuvent contrôler l’accès à cette fonctionnalité depuis la page Aperçus . Consultez Gérer les aperçus Databricks.

Limitations générales des connecteurs SaaS

Les limitations décrites dans cette section s'appliquent à tous les connecteurs SaaS de Lakeflow Connect.

• Lorsque vous exécutez un pipeline planifié, les alertes ne se trigger pas immédiatement. Au lieu de cela, elles se Trigger lors de la prochaine exécution de la mise à jour.
• Lorsqu’une table source est supprimée, la table de destination n’est pas automatiquement supprimée. Vous devez supprimer manuellement la table de destination. Ce comportement n’est pas cohérent avec le comportement des Spark Declarative Pipelines sur Lakeflow.
• Pendant les périodes de maintenance de la source, Databricks pourrait ne pas être en mesure d’accéder à vos données.
• Si un nom de table source est en conflit avec un nom de table de destination existant, la mise à jour du pipeline échoue.
• La prise en charge des pipelines multi-destinations est disponible uniquement via l’API.
• Vous pouvez éventuellement renommer une table que vous ingérez. Si vous renommez une table dans votre pipeline, celui-ci devient un pipeline accessible uniquement par API et vous ne pouvez plus le modifier dans l’interface utilisateur.
• Si vous sélectionnez une colonne après qu'un pipeline a déjà start, le connecteur ne remplit pas automatiquement les données pour la nouvelle colonne. Pour ingérer des données historiques, exécutez manuellement un refresh complet sur la table.
• Databricks ne peut pas ingérer deux tables ou plus portant le même nom dans le même pipeline, même si elles proviennent de schémas sources différents.
• Le système source suppose que les colonnes de curseur augmentent de façon monotone.
• Le connecteur ingère des données brutes sans Transformations. Utilisez des Spark Declarative Pipelines en aval sur les LakeFlow Pipelines pour les Transformations.

Limitations spécifiques au connecteur

Les limitations de cette section s’appliquent au connecteur Anysphere Audit Logs.

• Le connecteur ne prend pas en charge le SCD de type 2 pour les données d’événement des logs d’audit.
• Le connecteur prend en charge l’ingestion incrémentielle pour la table audit_logs à l’aide du champ de curseur timestamp. Seuls les événements d’audit des 30 derniers jours sont disponibles — Anysphere (Cursor) conserve les logs d’audit pendant environ 30 jours et limite la fenêtre de query à 30 jours. Lors de la première exécution du pipeline, attendez-vous à ce que la table ne contienne que des événements récents (généralement des 30 derniers jours), et non une archive historique complète.
• Pour obtenir la liste des tables prises en charge, consultez Tables sources prises en charge.