web-dev-qa-db-fra.com

Hadoop Java Error: Exception dans le thread "principal" Java.lang.NoClassDefFoundError: WordCount (nom incorrect: org/myorg/WordCount)

Je suis nouveau sur hadoop. J'ai suivi le tutoriel maichel-noll pour configurer hadoop en nœud unique. J'ai essayé de lancer le programme WordCount. C'est le code que j'ai utilisé:

import Java.io.IOException;
import Java.util.StringTokenizer;

import org.Apache.hadoop.conf.Configuration;
import org.Apache.hadoop.fs.Path;
import org.Apache.hadoop.io.IntWritable;
import org.Apache.hadoop.io.Text;
import org.Apache.hadoop.mapreduce.Job;
import org.Apache.hadoop.mapreduce.Mapper;
import org.Apache.hadoop.mapreduce.Reducer;
import org.Apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.Apache.hadoop.mapreduce.lib.output.FileOutputFormat;

public class WordCount {

  public static class TokenizerMapper
       extends Mapper<Object, Text, Text, IntWritable>{

    private final static IntWritable one = new IntWritable(1);
    private Text Word = new Text();

    public void map(Object key, Text value, Context context
                    ) throws IOException, InterruptedException {
      StringTokenizer itr = new StringTokenizer(value.toString());
      while (itr.hasMoreTokens()) {
        Word.set(itr.nextToken());
        context.write(Word, one);
      }
    }
  }

  public static class IntSumReducer
       extends Reducer<Text,IntWritable,Text,IntWritable> {
    private IntWritable result = new IntWritable();

    public void reduce(Text key, Iterable<IntWritable> values,
                       Context context
                       ) throws IOException, InterruptedException {
      int sum = 0;
      for (IntWritable val : values) {
        sum += val.get();
      }
      result.set(sum);
      context.write(key, result);
    }
  }

  public static void main(String[] args) throws Exception {
    Configuration conf = new Configuration();
    Job job = Job.getInstance(conf, "WordCount");
    job.setJarByClass(WordCount.class);
    job.setMapperClass(TokenizerMapper.class);
    job.setCombinerClass(IntSumReducer.class);
    job.setReducerClass(IntSumReducer.class);
    job.setOutputKeyClass(Text.class);
    job.setOutputValueClass(IntWritable.class);
    FileInputFormat.addInputPath(job, new Path(args[0]));
    FileOutputFormat.setOutputPath(job, new Path(args[1]));
    System.exit(job.waitForCompletion(true) ? 0 : 1);
  }
}

C'est ce que je reçois quand j'essaie de l'exécuter.

hduser@aswin-HP-Pavilion-15-Notebook-PC:/usr/local/hadoop$ bin/hadoop jar wc.jar WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt
Exception in thread "main" Java.lang.NoClassDefFoundError: WordCount (wrong name: org/myorg/WordCount)
    at Java.lang.ClassLoader.defineClass1(Native Method)
    at Java.lang.ClassLoader.defineClass(ClassLoader.Java:788)
    at Java.security.SecureClassLoader.defineClass(SecureClassLoader.Java:142)
    at Java.net.URLClassLoader.defineClass(URLClassLoader.Java:447)
    at Java.net.URLClassLoader.access$100(URLClassLoader.Java:71)
    at Java.net.URLClassLoader$1.run(URLClassLoader.Java:361)
    at Java.net.URLClassLoader$1.run(URLClassLoader.Java:355)
    at Java.security.AccessController.doPrivileged(Native Method)
    at Java.net.URLClassLoader.findClass(URLClassLoader.Java:354)
    at Java.lang.ClassLoader.loadClass(ClassLoader.Java:424)
    at Sun.misc.Launcher$AppClassLoader.loadClass(Launcher.Java:308)
    at Java.lang.ClassLoader.loadClass(ClassLoader.Java:411)
    at Java.lang.ClassLoader.loadClass(ClassLoader.Java:357)
    at Java.lang.Class.forName0(Native Method)
    at Java.lang.Class.forName(Class.Java:270)
    at org.Apache.hadoop.util.RunJar.main(RunJar.Java:205)

Est-ce que quelqu'un peut m'aider s'il vous plait. Mon parcours:

hduser@aswin-HP-Pavilion-15-Notebook-PC:/usr/local/hadoop$ hadoop classpath
/usr/local/hadoop/etc/hadoop:/usr/local/hadoop/share/hadoop/common/lib/*:/usr/local/hadoop/share/hadoop/common/*:/usr/local/hadoop/share/hadoop/hdfs:/usr/local/hadoop/share/hadoop/hdfs/lib/*:/usr/local/hadoop/share/hadoop/hdfs/*:/usr/local/hadoop/share/hadoop/yarn/lib/*:/usr/local/hadoop/share/hadoop/yarn/*:/usr/local/hadoop/share/hadoop/mapreduce/lib/*:/usr/local/hadoop/share/hadoop/mapreduce/*:/usr/lib/jvm/Java-7-openjdk-i386/lib/tools.jar:/usr/local/hadoop/contrib/capacity-scheduler/*.jar
javahadoopjarhadoop-streaming
8
Aswin Alagappan

essaye ça,

import Java.io.IOException;
import Java.util.Iterator;
import Java.util.StringTokenizer;

import org.Apache.hadoop.fs.Path;
import org.Apache.hadoop.io.IntWritable;
import org.Apache.hadoop.io.LongWritable;
import org.Apache.hadoop.io.Text;
import org.Apache.hadoop.mapred.FileInputFormat;
import org.Apache.hadoop.mapred.FileOutputFormat;
import org.Apache.hadoop.mapred.JobClient;
import org.Apache.hadoop.mapred.JobConf;
import org.Apache.hadoop.mapred.MapReduceBase;
import org.Apache.hadoop.mapred.Mapper;
import org.Apache.hadoop.mapred.OutputCollector;
import org.Apache.hadoop.mapred.Reducer;
import org.Apache.hadoop.mapred.Reporter;
import org.Apache.hadoop.mapred.TextInputFormat;
import org.Apache.hadoop.mapred.TextOutputFormat;

public class WordCount {

    public static class Map extends MapReduceBase implements
            Mapper<LongWritable, Text, Text, IntWritable> {

        @Override
        public void map(LongWritable key, Text value, OutputCollector<Text, IntWritable> output, Reporter reporter)
                throws IOException {

            String line = value.toString();
            StringTokenizer tokenizer = new StringTokenizer(line);

            while (tokenizer.hasMoreTokens()) {
                value.set(tokenizer.nextToken());
                output.collect(value, new IntWritable(1));
            }

        }
    }

    public static class Reduce extends MapReduceBase implements
            Reducer<Text, IntWritable, Text, IntWritable> {

        @Override
        public void reduce(Text key, Iterator<IntWritable> values,
                OutputCollector<Text, IntWritable> output, Reporter reporter)
                throws IOException {
            int sum = 0;
            while (values.hasNext()) {
                sum += values.next().get();
            }

            output.collect(key, new IntWritable(sum));
        }
    }

    public static void main(String[] args) throws Exception {

        JobConf conf = new JobConf(WordCount.class);
        conf.setJobName("wordcount");

        conf.setOutputKeyClass(Text.class);
        conf.setOutputValueClass(IntWritable.class);

        conf.setMapperClass(Map.class);
        conf.setReducerClass(Reduce.class);

        conf.setInputFormat(TextInputFormat.class);
        conf.setOutputFormat(TextOutputFormat.class);

        FileInputFormat.setInputPaths(conf, new Path(args[0]));
        FileOutputFormat.setOutputPath(conf, new Path(args[1]));

        JobClient.runJob(conf);

    }
}

puis exécutez la commande

bin/hadoop jar WordCount.jar WordCount /hdfs_Input_filename /output_filename

si votre code est dans un paquet particulier, vous devez alors mentionner le nom du paquet avec le nom de la classe

bin/hadoop jar WordCount.jar PakageName.WordCount /hdfs_Input_filename /output_filename
4
Kishore

Je pense que vous avez commis une erreur ici:

/usr/local/hadoop$ bin/hadoop jar wc.jar WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt

changez le en:

/usr/local/hadoop$ bin/hadoop jar wc.jar org.myorg.WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt

cela devrait fonctionner.

@Aswin Alagappan: Reason is un fichier jar contient votre chemin. La JVM ne peut pas trouver votre classe dans le fichier jar, car elle se trouve dans le chemin "jar\org\myorg" . Comprendre?

0
Norman Bai

Vous utilisez package dans votre classe. Donc, votre commande devrait être

bin/hadoop jar wc.jar org.myorg.WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt
0
SMA

Cela peut sembler fou. J'ai ajouté package org.myorg; à mon code et l'ai compilé à nouveau. J'ai placé les fichiers de classe dans le dossier org/myorg et créé le fichier jar en les utilisant. Ensuite, j'ai exécuté la commande avec la commande jar wc.jar org.myorg.WordCount et l'opération a été exécutée avec succès. Ce serait bien si quelqu'un pouvait m'expliquer comment ça se passait réellement: D. De toute façon, merci beaucoup de m'aider les gars.

0
Aswin Alagappan

essayez d’inclure explicitement les classes imbriquées (i.e. TokenizerMapper et IntSumReducer) dans votre fichier jar. Voici comment je l'ai fait:

jar cvf WordCount.jar WordCount.class WordCount\$TokenizerMapper.class WordCount\$IntSumReducer.class
0
r2d2oid