我通过AWS管理控制台上的常规EMR集群向导创建了一个AWS集群,并且我能够选择一个安全配置,例如,当您导出CLI命令时,它是--security-configuration 'mySecurityConfigurationValue'。
现在我需要通过AWS数据管道创建一个类似的EMR,但是我看不到任何选项可以指定这个安全配置字段。
我看到的唯一类似的字段是EmrManagedSlaveSecurityGroup、EmrManagedMasterSecurityGroup、AdditionalSlaveSecurityGroups、AdditionalMasterSecurityGroups和SubnetId。我已经在管道配置中填写了所有这些,但我只需要指定安全性配置。有什么想法吗?
发布于 2018-05-17 20:00:29
不幸的是,DataPipeline不支持安全配置特性(以及EMR5.x版本中引入的其他特性,比如使用自定义的AMI)。
解决这一问题的一个办法是:
EmrCluster替换为EC2资源ShellCommandActivity在EC2资源上运行aws emr create-cluster CLI命令runsOn属性替换为workerGroup,以便在步骤2中创建的EMR集群上运行任务ShellCommandActivity,以便使用CLI终止集群。现在,由于您正在使用CLI来划分集群,所以您可以访问各种特性,如安全配置、自定义AMI、实例舰队等,您仍然可以使用DataPipeline编排这些任务。
https://stackoverflow.com/questions/50353136
复制相似问题