Массовая вставка MongoDB игнорировать дубликат

node.js mongodb

1533 просмотра

1 ответ

Я погуглил и не могу найти какую-либо достоверную информацию о том, как игнорировать повторяющиеся ошибки при использовании массовой вставки.

Вот код, который я сейчас использую:

MongoClient.connect(mongoURL, function(err, db) {
      if(err) console.err(err)
      let col = db.collection('user_ids')
      let batch = col.initializeUnorderedBulkOp()

      ids.forEach(function(id) {
        batch.insert({ userid: id, used: false, group: argv.groupID })
      })

      batch.execute(function(err, result) {
        if(err) {
          console.error(new Error(err))
          db.close()
        }

        // Do some work

        db.close()
      })
    })

Является ли это возможным? Я попытался добавить {continueOnError: true, safe: true}к , bulk.insert(...)но это не сработало.

Есть идеи?

Автор: BugHunterUK Источник Размещён: 08.11.2019 11:21

Ответы (1)


4 плюса

Решение

Альтернативой является использование bulk.find().upsert().replaceOne()вместо:

MongoClient.connect(mongoURL, function(err, db) {
    if(err) console.err(err)
    let col = db.collection('user_ids')
    let batch = col.initializeUnorderedBulkOp()

    ids.forEach(function(id) {        
        batch.find({ userid: id }).upsert().replaceOne({ 
            userid: id, 
            used: false,  
            group: argv.groupID 
        });
    });

    batch.execute(function(err, result) {
        if(err) {
            console.error(new Error(err))
            db.close()
        }

        // Do some work

        db.close()
    });
});

С учетом вышесказанного, если документ соответствует запросу, { userid: id }он будет заменен новым документом, в противном случае он будет создан, следовательно, нет повторяющихся ошибок ключа.


Для версий сервера MongoDB 3.2+ используйте bulkWriteкак:

MongoClient.connect(mongoURL, function(err, db) {

    if(err) console.err(err)

    let col = db.collection('user_ids')
    let ops = []
    let counter = 0

    ids.forEach(function(id) {
        ops.push({
            "replaceOne": {
                "filter": { "userid": id },
                "replacement": { 
                    userid: id, 
                    used: false,  
                    group: argv.groupID 
                },
                "upsert": true
            }
        })

        counter++

        if (counter % 500 === 0) {
            col.bulkWrite(ops, function(err, r) {
                // do something with result
                db.close()
            })
            ops = []
        }
    })

    if (counter % 500 !== 0) {
        col.bulkWrite(ops, function(err, r) {
            // do something with result
            db.close()
        }
    } 
})
Автор: chridam Размещён: 20.08.2016 01:36
Вопросы из категории :
32x32