Accède au service Amazon Athena pour exécuter des requêtes sur des jeux de données S3.
Comment fonctionne-t-il ?
AmazonAthenaConnector utilise vos identifiants de compte Amazon AWS pour accéder au service Athena, soit via une connexion web FME précédemment définie soit en paramétrant une nouvelle connexion dans le Transformer.
Coûts
AWS facture les éléments suivants :
- Quantité de données analysées. Toutes les données sont analysées pour chaque requête, sauf si les données sous-jacentes prennent en charge le stockage en colonnes.
- Le stockage des données source dans S3.
- Le stockage des résultats de chaque requête dans S3, ce qui n'est pas nettoyé par FME.
Plus d'informations sur la facturation : https://aws.amazon.com/athena/pricing/
Le Reader Amazon Athena sera généralement efficace pour récupérer des jeux de données entiers depuis S3 car il est destiné à récupérer des sous-jeux de jeux de données.
Configuration
Ports d'entrée
Input
Ce Transformer accepte tous types d'entités.
Ports de sortie
Output
Le port de sortie contiendra les attributs définis dans le paramètre Attributs exposés, qui correspond aux colonnes de la requête exécutée.
Initiator
L'entité entrante ressort par ce port.
<Rejected>
Les entités qui provoquent l'échec de l'opération ressortent par ce port. Un attribut fme_rejection_code, ayant la valeur ERROR_DURING_PROCESSING, sera ajouté, ainsi qu'un attribut fme_rejection_message plus descriptif qui contient des détails plus spécifiques sur la raison de l'échec.
Gestion des entités rejetées : ce paramètre permet d'interrompre la traduction ou de la poursuivre lorsqu'elle rencontre une entité rejetée. Ce paramètre est disponible à la fois comme option par défaut de FME et comme paramètre de traitement.
Paramètres
Authentification
|
Source des identifiants |
Les informations d'identification peuvent être utilisées à partir de différentes sources. L'utilisation d'une connexion <eb s'intègre le mieux à FME, mais dans certains cas, vous pouvez souhaiter utiliser l'une des autres sources.
|
|
Compte |
Disponible lorsque la source d'accréditation est une connexion web. Pour créer une connexion Amazon Web Services, cliquez sur le menu déroulant "Compte" et sélectionnez "Ajouter une connexion Web...". La connexion pourra ensuite être gérée via Outils -> Options FME... -> Connexions Web. |
|
Région |
La région AWS dans laquelle se trouve le jeu de données S3. Remplace la région définie dans la connexion Web si elle est spécifiée. |
|
AWS CA Bundle |
L'AWS CA Bundle spécifie le chemin d'accès à un ensemble de certificats à utiliser pour la validation des certificats. Si elle est définie, elle a la priorité sur la valeur de la variable d'environnement AWS_CA_BUNDLE. |
|
Informations d'authentification intégrées |
Disponible lorsque la source d'accréditation est Intégrée. Un identifiant d'accès et une clé secrète peuvent être spécifiés directement dans le Transformer plutôt que dans une connexion web. |
Exécuter une requête
|
Utiliser une requête nommée |
Si Oui, utilise une requête nommée, sinon spécifier une requête. |
|
Requête nommée |
Une requête nommée à exécuter. |
|
Requête |
La requête SQL à exécuter. |
|
Expiration de la requête |
Secondes jusqu'à ce qu'une requête en cours soit annulée. La valeur par défaut et maximale est de 30 minutes (1800 secondes). |
Emplacement du résultat S3
Le compartiment et le chemin pour enregistrer les résultats de la requête. Athena génère un fichier de métadonnées et un fichier CSV des résultats.
Cela ne devrait pas être le même emplacement que celui où sont les données source de la table Athena, sinon les résultats des requêtes ultérieures seront altérées par les fichiers en attente.
Enregistrer la requête
Si cochée, la requête sera sauvegardée pour une utilisation postérieure.
|
Base de données |
La base de données de la requête sauvegardée. |
| Titre |
Le titre de la requête sauvegardée. |
|
Description |
Le texte de description de la requête sauvegardée. |
Enregistrer dans une table
Si coché, sauvegarde les résultats dans une table.
|
Base de données |
La base de données dans laquelle enregistrer la table. |
|
Nom de table |
Le nom de la table. |
|
Description |
La description de la table. |
|
Compartiment de destination |
Le compartiment dans lequel stocker les données de la table. |
|
Chemin de destination |
Le chemin vers lequel stocker les données de la table. Cet emplacement doit être vide. |
|
Format |
Le chemin vers lequel stocker les données de la table. Parquet et ORC sont recommandés. |
Attributs exposés
Liste des attributs à générer en sortie. Ils devraient correspondre aux noms de colonnes de la requête.
Éditer les paramètres des Transformers
À l'aide d'un ensemble d'options de menu, les paramètres du Transformer peuvent être attribués en faisant référence à d'autres éléments de traitement. Des fonctions plus avancées, telles qu'un éditeur avancé et un éditeur arithmétique, sont également disponibles dans certains Transformers. Pour accéder à un menu de ces options, cliquez sur 
à côté du paramètre applicable. Pour plus d'informations, voir Options de menus et paramètres de Transformer.
Définir les valeurs
Il existe plusieurs façons de définir une valeur à utiliser dans un Transformer. La plus simple est de simplement taper une valeur ou une chaîne de caractères, qui peut inclure des fonctions de différents types comme des références d'attributs, des fonctions mathématiques et de chaînes de caractères, et des paramètres de traitement. Il existe un certain nombre d'outils et de raccourcis qui peuvent aider à construire des valeurs, généralement disponibles dans le menu contextuel déroulant adjacent au champ de valeur.
Définir des valeurs de paramètres
Utilisation de l'éditeur de texte
L'éditeur de texte fournit un moyen efficace de construire des chaînes de textes (dont les expressions régulières) à partir de données source diverses, telles que des attributs, des paramètres et des constantes, et le résultat est directement utilisé dans le paramètre.
Utilisation de l'éditeur arithmétique
L'éditeur arithmétique fournit un moyen simple de construire des expressions mathématiques à partir de plusieurs données source, telles que des attributs et des fonctions, et le résultat est directement utilisé dans un paramètre.
Valeur conditionnelle
Définit des valeurs selon un ou plusieurs tests.
Fenêtre de définition de conditions
Contenu
Les expressions et chaînes de caractères peuvent inclure des fonctions, caractères, paramètres et plus.
Lors du paramétrage des valeurs - qu'elles soient entrées directement dans un paramètre ou construites en utilisant l'un des éditeurs - les chaînes de caractères et les expressions contenant des fonctions Chaîne de caractères, Math, Date et heure ou Entité FME auront ces fonctions évaluées. Par conséquent, les noms de ces fonctions (sous la forme @<nom_de_fonction>) ne doivent pas être utilisés comme valeurs littérales de chaîne de caractères.
Types de contenu
| Ces fonctions manipulent les chaînes de caractères. | |
|
Caractères spéciaux |
Un ensemble de caractères de contrôle est disponible dans l'éditeur de texte. |
| Plusieurs fonctions sont disponibles dans les deux éditeurs. | |
| Fonctions Date/heure | Les fonctions de dates et heures sont disponibles dans l'Editeur texte. |
| Ces opérateur sont disponibles dans l'éditeur arithmétique. | |
| Elles retournent des valeurs spécifiques aux entités. | |
| Les paramètres FME et spécifiques au traitement peuvent être utilisés. | |
| Créer et modifier un paramètre publié | Créer ses propres paramètres éditables. |
Options - Tables
Les Transformers avec des paramètres de style table possèdent des outils additionnels pour remplir et manipuler des valeurs.
Outils de tableau
|
Réordonner
|
Activé une fois que vous avez cliqué sur un élément de ligne. Les choix comprennent :
|
|
Couper, Copier et Coller
|
Activé une fois que vous avez cliqué sur un élément de ligne. Les choix comprennent :
Copier, copier et coller peuvent être utilisés au sein d'un Transformer ou entre Transfromers. |
|
Filtre
|
Commencez à taper une chaîne de caractères, et la matrice n'affichera que les lignes correspondant à ces caractères. Recherche dans toutes les colonnes. Cela n'affecte que l'affichage des attributs dans le Transformer - cela ne change pas les attributs qui sont sortis. |
|
Importer
|
Le bouton d'import remplit la table avec un jeu de nouveaux attributs lus depuis un jeu de données. L'application spécifique varie selon les Transformers. |
|
Réinitialiser/Rafraîchir
|
Réinitialise la table à son état initial, et peut fournir des options additionnelles pour supprimer des entrées invalides. Le comportement varie d'un Transformer à l'autre. |
Note : Tous les outils ne sont pas disponibles dans tous les Transformers.
Références
|
Comportement |
|
|
Stockage des entités |
Non |
|
Dépendances |
Compte Amazon Web Services |
|
Alias |
|
|
Historique |
Implémenté dans FME 2019.2 |
FME Community
FME Community est l'endroit où trouver des démos, des tutoriaux, des articles, des FAQ et bien plus encore. Obtenez des réponses à vos questions, apprenez des autres utilisateurs et suggérez, votez et commentez de nouvelles entités.
Voir tous les résultats à propos de ce Transformer sur FME Community.
Les exemples peuvent contenir des informations sous licence Open Government - Vancouver et/ou Open Government - Canada.