Binary compatibility report for the spark-avro_2.10-2.0.1 library  between 1.4.0 and 1.1.0 versions   (relating to the portability of client application spark-avro_2.10-2.0.1.jar)

Test Info

Library Namespark-avro_2.10-2.0.1
Version #11.4.0
Version #21.1.0
Java Version1.7.0_75

Test Results

Total Java ARchives2
Total Methods / Classes240 / 2470
VerdictIncompatible
(47.5%)

Problem Summary

SeverityCount
Added Methods-81
Removed MethodsHigh108
Problems with
Data Types		High8
Medium0
Low0
Problems with
Methods		High0
Medium0
Low0

Added Methods (81)

spark-sql_2.10-1.1.0.jar, SQLContext.class
package org.apache.spark.sql
SQLContext.applySchema ( org.apache.spark.rdd.RDD<catalyst.expressions.Row> rowRDD, catalyst.types.StructType schema )  :  SchemaRDD
SQLContext.applySchemaToPythonRDD ( org.apache.spark.rdd.RDD<Object[ ]> rdd, catalyst.types.StructType schema )  :  SchemaRDD
SQLContext.applySchemaToPythonRDD ( org.apache.spark.rdd.RDD<Object[ ]> rdd, String schemaString )  :  SchemaRDD
SQLContext.approxCountDistinct ( catalyst.expressions.Expression e, double rsd )  :  catalyst.expressions.ApproxCountDistinct
SQLContext.autoBroadcastJoinThreshold ( )  :  int
SQLContext.avg ( catalyst.expressions.Expression e )  :  catalyst.expressions.Average
SQLContext.binaryToLiteral ( byte[ ] a )  :  catalyst.expressions.Literal
SQLContext.booleanToLiteral ( boolean b )  :  catalyst.expressions.Literal
SQLContext.byteToLiteral ( byte b )  :  catalyst.expressions.Literal
SQLContext.clear ( )  :  void
SQLContext.codegenEnabled ( )  :  boolean
SQLContext.columnBatchSize ( )  :  int
SQLContext.count ( catalyst.expressions.Expression e )  :  catalyst.expressions.Count
SQLContext.countDistinct ( scala.collection.Seq<catalyst.expressions.Expression> e )  :  catalyst.expressions.CountDistinct
SQLContext.createParquetFile ( String path, boolean allowExisting, org.apache.hadoop.conf.Configuration conf, scala.reflect.api.TypeTags.TypeTag<A> p4 )  :  SchemaRDD
SQLContext.createSchemaRDD ( org.apache.spark.rdd.RDD<A> rdd, scala.reflect.api.TypeTags.TypeTag<A> p2 )  :  SchemaRDD
SQLContext.decimalToLiteral ( scala.math.BigDecimal d )  :  catalyst.expressions.Literal
SQLContext.defaultSizeInBytes ( )  :  long
SQLContext.dialect ( )  :  String
SQLContext.doubleToLiteral ( double d )  :  catalyst.expressions.Literal
SQLContext.DslAttribute ( catalyst.expressions.AttributeReference a )  :  catalyst.dsl.package.ExpressionConversions.DslAttribute
SQLContext.DslExpression ( catalyst.expressions.Expression e )  :  catalyst.dsl.package.ExpressionConversions.DslExpression
SQLContext.DslString ( String s )  :  catalyst.dsl.package.ExpressionConversions.DslString
SQLContext.DslSymbol ( scala.Symbol sym )  :  catalyst.dsl.package.ExpressionConversions.DslSymbol
SQLContext.first ( catalyst.expressions.Expression e )  :  catalyst.expressions.First
SQLContext.floatToLiteral ( float f )  :  catalyst.expressions.Literal
SQLContext.intToLiteral ( int i )  :  catalyst.expressions.Literal
SQLContext.isParquetBinaryAsString ( )  :  boolean
SQLContext.jsonFile ( String path )  :  SchemaRDD
SQLContext.jsonFile ( String path, double samplingRatio )  :  SchemaRDD
SQLContext.jsonFile ( String path, catalyst.types.StructType schema )  :  SchemaRDD
SQLContext.jsonRDD ( org.apache.spark.rdd.RDD<String> json )  :  SchemaRDD
SQLContext.jsonRDD ( org.apache.spark.rdd.RDD<String> json, double samplingRatio )  :  SchemaRDD
SQLContext.jsonRDD ( org.apache.spark.rdd.RDD<String> json, catalyst.types.StructType schema )  :  SchemaRDD
SQLContext.logicalPlanToSparkQuery ( catalyst.plans.logical.LogicalPlan plan )  :  SchemaRDD
SQLContext.longToLiteral ( long l )  :  catalyst.expressions.Literal
SQLContext.lower ( catalyst.expressions.Expression e )  :  catalyst.expressions.Lower
SQLContext.max ( catalyst.expressions.Expression e )  :  catalyst.expressions.Max
SQLContext.min ( catalyst.expressions.Expression e )  :  catalyst.expressions.Min
SQLContext.numShufflePartitions ( )  :  int
SQLContext.optimizer ( )  :  catalyst.optimizer.Optimizer.
SQLContext.SQLConf._setter_.settings_.eq ( java.util.Map p1 )  :  void
SQLContext.parquetCompressionCodec ( )  :  String
SQLContext.parquetFile ( String path )  :  SchemaRDD
SQLContext.parseDataType ( String dataTypeString )  :  catalyst.types.DataType
SQLContext.parser ( )  :  catalyst.SqlParser
SQLContext.registerFunction ( String name, scala.Function10<?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function11<?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function12<?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function13<?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function14<?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function15<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function16<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function17<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function18<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function19<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function1<?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function20<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function21<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function22<?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function2<?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function3<?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function4<?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function5<?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function6<?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function7<?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function8<?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerFunction ( String name, scala.Function9<?,?,?,?,?,?,?,?,?,T> func, scala.reflect.api.TypeTags.TypeTag<T> p3 )  :  void
SQLContext.registerPython ( String name, byte[ ] command, java.util.Map<String,String> envVars, java.util.List<String> pythonIncludes, String pythonExec, org.apache.spark.Accumulator<java.util.List<byte[ ]>> accumulator, String stringDataType )  :  void
SQLContext.registerRDDAsTable ( SchemaRDD rdd, String tableName )  :  void
SQLContext.settings ( )  :  java.util.Map<String,String>
SQLContext.shortToLiteral ( short s )  :  catalyst.expressions.Literal
SQLContext.sql ( String sqlText )  :  SchemaRDD
SQLContext.stringToLiteral ( String s )  :  catalyst.expressions.Literal
SQLContext.sum ( catalyst.expressions.Expression e )  :  catalyst.expressions.Sum
SQLContext.sumDistinct ( catalyst.expressions.Expression e )  :  catalyst.expressions.SumDistinct
SQLContext.symbolToUnresolvedAttribute ( scala.Symbol s )  :  catalyst.analysis.UnresolvedAttribute
SQLContext.table ( String tableName )  :  SchemaRDD
SQLContext.timestampToLiteral ( java.sql.Timestamp t )  :  catalyst.expressions.Literal
SQLContext.upper ( catalyst.expressions.Expression e )  :  catalyst.expressions.Upper
SQLContext.useCompression ( )  :  boolean

to the top

Removed Methods (108)

spark-sql_2.10-1.4.0.jar, DataFrameReader.class
package org.apache.spark.sql
DataFrameReader.DataFrameReader ( SQLContext sqlContext )
DataFrameReader.format ( String source )  :  DataFrameReader
DataFrameReader.jdbc ( String url, String table, java.util.Properties properties )  :  DataFrame
DataFrameReader.jdbc ( String url, String table, String columnName, long lowerBound, long upperBound, int numPartitions, java.util.Properties connectionProperties )  :  DataFrame
DataFrameReader.jdbc ( String url, String table, String[ ] predicates, java.util.Properties connectionProperties )  :  DataFrame
DataFrameReader.json ( org.apache.spark.api.java.JavaRDD<String> jsonRDD )  :  DataFrame
DataFrameReader.json ( org.apache.spark.rdd.RDD<String> jsonRDD )  :  DataFrame
DataFrameReader.json ( String path )  :  DataFrame
DataFrameReader.load ( )  :  DataFrame
DataFrameReader.load ( String path )  :  DataFrame
DataFrameReader.option ( String key, String value )  :  DataFrameReader
DataFrameReader.options ( java.util.Map<String,String> options )  :  DataFrameReader
DataFrameReader.options ( scala.collection.Map<String,String> options )  :  DataFrameReader
DataFrameReader.parquet ( scala.collection.Seq<String> paths )  :  DataFrame
DataFrameReader.parquet ( String... paths )  :  DataFrame
DataFrameReader.schema ( types.StructType schema )  :  DataFrameReader
DataFrameReader.table ( String tableName )  :  DataFrame

spark-sql_2.10-1.4.0.jar, DataFrameWriter.class
package org.apache.spark.sql
DataFrameWriter.DataFrameWriter ( DataFrame df )
DataFrameWriter.format ( String source )  :  DataFrameWriter
DataFrameWriter.insertInto ( String tableName )  :  void
DataFrameWriter.jdbc ( String url, String table, java.util.Properties connectionProperties )  :  void
DataFrameWriter.json ( String path )  :  void
DataFrameWriter.mode ( SaveMode saveMode )  :  DataFrameWriter
DataFrameWriter.mode ( String saveMode )  :  DataFrameWriter
DataFrameWriter.option ( String key, String value )  :  DataFrameWriter
DataFrameWriter.options ( java.util.Map<String,String> options )  :  DataFrameWriter
DataFrameWriter.options ( scala.collection.Map<String,String> options )  :  DataFrameWriter
DataFrameWriter.parquet ( String path )  :  void
DataFrameWriter.partitionBy ( scala.collection.Seq<String> colNames )  :  DataFrameWriter
DataFrameWriter.partitionBy ( String... colNames )  :  DataFrameWriter
DataFrameWriter.save ( )  :  void
DataFrameWriter.save ( String path )  :  void
DataFrameWriter.saveAsTable ( String tableName )  :  void

spark-sql_2.10-1.4.0.jar, HadoopFsRelation.class
package org.apache.spark.sql.sources
HadoopFsRelation.buildScan ( org.apache.hadoop.fs.FileStatus[ ] inputFiles )  :  org.apache.spark.rdd.RDD<org.apache.spark.sql.Row>
HadoopFsRelation.buildScan ( String[ ] requiredColumns, org.apache.hadoop.fs.FileStatus[ ] inputFiles )  :  org.apache.spark.rdd.RDD<org.apache.spark.sql.Row>
HadoopFsRelation.buildScan ( String[ ] requiredColumns, Filter[ ] filters, org.apache.hadoop.fs.FileStatus[ ] inputFiles )  :  org.apache.spark.rdd.RDD<org.apache.spark.sql.Row>
HadoopFsRelation.buildScan ( String[ ] requiredColumns, Filter[ ] filters, org.apache.hadoop.fs.FileStatus[ ] inputFiles, org.apache.spark.broadcast.Broadcast<org.apache.spark.SerializableWritable<org.apache.hadoop.conf.Configuration>> broadcastedConf )  :  org.apache.spark.rdd.RDD<org.apache.spark.sql.Row>
HadoopFsRelation.buildScan ( String[ ] requiredColumns, Filter[ ] filters, String[ ] inputPaths, org.apache.spark.broadcast.Broadcast<org.apache.spark.SerializableWritable<org.apache.hadoop.conf.Configuration>> broadcastedConf )  :  org.apache.spark.rdd.RDD<org.apache.spark.sql.Row>
HadoopFsRelation.cachedLeafStatuses ( )  :  scala.collection.immutable.Set<org.apache.hadoop.fs.FileStatus>
HadoopFsRelation.dataSchema ( ) [abstract]  :  org.apache.spark.sql.types.StructType
HadoopFsRelation.HadoopFsRelation ( )
HadoopFsRelation.HadoopFsRelation ( scala.Option<PartitionSpec> maybePartitionSpec )
HadoopFsRelation.HadoopFsRelation..discoverPartitions ( )  :  PartitionSpec
HadoopFsRelation.HadoopFsRelation..fileStatusCache ( )  :  HadoopFsRelation.FileStatusCache
HadoopFsRelation.HadoopFsRelation..hadoopConf ( )  :  org.apache.hadoop.conf.Configuration
HadoopFsRelation.partitionColumns ( )  :  org.apache.spark.sql.types.StructType
HadoopFsRelation.partitionSpec ( )  :  PartitionSpec
HadoopFsRelation.paths ( ) [abstract]  :  String[ ]
HadoopFsRelation.prepareJobForWrite ( org.apache.hadoop.mapreduce.Job p1 ) [abstract]  :  OutputWriterFactory
HadoopFsRelation.refresh ( )  :  void
HadoopFsRelation.schema ( )  :  org.apache.spark.sql.types.StructType
HadoopFsRelation.userDefinedPartitionColumns ( )  :  scala.Option<org.apache.spark.sql.types.StructType>

spark-sql_2.10-1.4.0.jar, HadoopFsRelationProvider.class
package org.apache.spark.sql.sources
HadoopFsRelationProvider.createRelation ( org.apache.spark.sql.SQLContext p1, String[ ] p2, scala.Option<org.apache.spark.sql.types.StructType> p3, scala.Option<org.apache.spark.sql.types.StructType> p4, scala.collection.immutable.Map<String,String> p5 ) [abstract]  :  HadoopFsRelation

spark-sql_2.10-1.4.0.jar, OutputWriter.class
package org.apache.spark.sql.sources
OutputWriter.close ( ) [abstract]  :  void
OutputWriter.OutputWriter ( )
OutputWriter.write ( org.apache.spark.sql.Row p1 ) [abstract]  :  void

spark-sql_2.10-1.4.0.jar, OutputWriterFactory.class
package org.apache.spark.sql.sources
OutputWriterFactory.newInstance ( String p1, org.apache.spark.sql.types.StructType p2, org.apache.hadoop.mapreduce.TaskAttemptContext p3 ) [abstract]  :  OutputWriter
OutputWriterFactory.OutputWriterFactory ( )

spark-sql_2.10-1.4.0.jar, SQLContext.class
package org.apache.spark.sql
SQLContext.applySchemaToPythonRDD ( org.apache.spark.rdd.RDD<Object[ ]> rdd, types.StructType schema )  :  DataFrame
SQLContext.applySchemaToPythonRDD ( org.apache.spark.rdd.RDD<Object[ ]> rdd, String schemaString )  :  DataFrame
SQLContext.baseRelationToDataFrame ( sources.BaseRelation baseRelation )  :  DataFrame
SQLContext.cacheManager ( )  :  execution.CacheManager
SQLContext.clearCache ( )  :  void
SQLContext.conf ( )  :  SQLConf
SQLContext.createDataFrame ( org.apache.spark.api.java.JavaRDD<?> rdd, Class<?> beanClass )  :  DataFrame
SQLContext.createDataFrame ( org.apache.spark.api.java.JavaRDD<Row> rowRDD, types.StructType schema )  :  DataFrame
SQLContext.createDataFrame ( org.apache.spark.rdd.RDD<?> rdd, Class<?> beanClass )  :  DataFrame
SQLContext.createDataFrame ( org.apache.spark.rdd.RDD<A> rdd, scala.reflect.api.TypeTags.TypeTag<A> p2 )  :  DataFrame
SQLContext.createDataFrame ( org.apache.spark.rdd.RDD<Row> rowRDD, types.StructType schema )  :  DataFrame
SQLContext.createDataFrame ( org.apache.spark.rdd.RDD<Row> rowRDD, types.StructType schema, boolean needsConversion )  :  DataFrame
SQLContext.createDataFrame ( scala.collection.Seq<A> data, scala.reflect.api.TypeTags.TypeTag<A> p2 )  :  DataFrame
SQLContext.createExternalTable ( String tableName, String path )  :  DataFrame
SQLContext.createExternalTable ( String tableName, String path, String source )  :  DataFrame
SQLContext.createExternalTable ( String tableName, String source, java.util.Map<String,String> options )  :  DataFrame
SQLContext.createExternalTable ( String tableName, String source, types.StructType schema, java.util.Map<String,String> options )  :  DataFrame
SQLContext.createExternalTable ( String tableName, String source, types.StructType schema, scala.collection.immutable.Map<String,String> options )  :  DataFrame
SQLContext.createExternalTable ( String tableName, String source, scala.collection.immutable.Map<String,String> options )  :  DataFrame
SQLContext.createSession ( )  :  SQLContext.SQLSession
SQLContext.currentSession ( )  :  SQLContext.SQLSession
SQLContext.ddlParser ( )  :  sources.DDLParser
SQLContext.defaultSession ( )  :  SQLContext.SQLSession
SQLContext.detachSession ( )  :  void
SQLContext.dialectClassName ( )  :  String
SQLContext.dropTempTable ( String tableName )  :  void
SQLContext.emptyDataFrame ( )  :  DataFrame
SQLContext.experimental ( )  :  ExperimentalMethods
SQLContext.getOrCreate ( org.apache.spark.SparkContext p1 ) [static]  :  SQLContext
SQLContext.getSchema ( Class<?> beanClass )  :  scala.collection.Seq<catalyst.expressions.AttributeReference>
SQLContext.getSQLDialect ( )  :  catalyst.ParserDialect
SQLContext.implicits ( )  :  SQLContext.implicits.
SQLContext.openSession ( )  :  SQLContext.SQLSession
SQLContext.optimizer ( )  :  catalyst.optimizer.Optimizer
SQLContext.parquetFile ( String... paths )  :  DataFrame
SQLContext.parseDataType ( String dataTypeString )  :  types.DataType
SQLContext.range ( long start, long end )  :  DataFrame
SQLContext.range ( long start, long end, long step, int numPartitions )  :  DataFrame
SQLContext.read ( )  :  DataFrameReader
SQLContext.registerDataFrameAsTable ( DataFrame df, String tableName )  :  void
SQLContext.sql ( String sqlText )  :  DataFrame
SQLContext.SQLContext ( org.apache.spark.api.java.JavaSparkContext sparkContext )
SQLContext.sqlParser ( )  :  SparkSQLParser
SQLContext.table ( String tableName )  :  DataFrame
SQLContext.tableNames ( )  :  String[ ]
SQLContext.tableNames ( String databaseName )  :  String[ ]
SQLContext.tables ( )  :  DataFrame
SQLContext.tables ( String databaseName )  :  DataFrame
SQLContext.tlSession ( )  :  ThreadLocal<SQLContext.SQLSession>
SQLContext.udf ( )  :  UDFRegistration

to the top

Problems with Data Types, High Severity (8)

spark-core_2.10-1.4.0.jar
package org.apache.spark
[+] SparkContext (1)

spark-sql_2.10-1.4.0.jar
package org.apache.spark.sql
[+] DataFrameReader (1)
[+] DataFrameWriter (1)
[+] SQLContext.QueryExecution (1)

package org.apache.spark.sql.sources
[+] HadoopFsRelation (1)
[+] HadoopFsRelationProvider (1)
[+] OutputWriter (1)
[+] OutputWriterFactory (1)

to the top

Java ARchives (2)

spark-core_2.10-1.4.0.jar
spark-sql_2.10-1.4.0.jar

to the top



Generated on Tue Sep 8 22:40:03 2015 for spark-avro_2.10-2.0.1 by Java API Compliance Checker 1.4.1  
A tool for checking backward compatibility of a Java library API